PS:在学习深度学习的搭建时，用到不同的激活函数，因此查阅了这些函数，转自：http://blog.csdn.net/qrlhl/article/details/60883604#t2，对其中我认为有误的地方进行了一点修正。   不管是传统的神经网络模型还是时下热门的深度学习，我们都可以在其中看到激活函数的影子。所谓激活函数，就是在神经网络的神经元上 运行的函数，负责将神经元的输入映射到输出