戏如人生，人生如神经网络

本文主要是介绍戏如人生，人生如神经网络，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

喜欢就关注 CV圈 吧！

人生，和神经网络竟然如此相似～

大千世界，各种事物虽然看似不同，但本质都有相通的地方。最近在看人工神经网络（ANN），突然发现，我们的人生跟人工神经网络何其相似。

有些人一生能在很多领域做的很好，对应到这个神经网络是一个多输出的，泛化能力很好的神经网络（一般来说输出类别越少，越好训练，这也是为什么我们中大部分人是普通人，只能做好有限几个领域）；有的人学习新东西特别快，这个人特别聪明，对应到神经网络就是它的学习速率非常快，“笨”的人，可能也就是学习速率低一点了，别人是0.01，我们是0.001，当然人家学习一天，抵得上我们学习十天了；

有些人学习新事物很容易满足，尝到一个小甜头就前浅尝辄止了，对应到神经网络就是这个人的动量（或者叫冲量）特别小，很容易陷入局部最优解，有些人动量就很足，能够永不满足，跳出自己的舒适区去寻找更好的，这样就能达到很多人达不到的高超境界（虽然有可能这人很笨，学习率很小，但人家劲头足，仍然能获得很大成功）；

有些人学习特别呆板，费死劲学了好久，还抵不上别人看似轻轻松松的学习，这有点类似与神经网络的弃权（Dropout）技术，太呆板的学习，容易陷入过拟合，聪明人会灵活的学习，会有意的忽略一部分信息，思考他们的关系，这样的人最终的能力也会比呆逼强很多，会劳逸结合的人，能力的也比那种呆板学习的要强；

有些人总是能在较短的时间内获得比别人更长时间更好的效果，优秀的人的学习策略比普通人的好很多，因此可以快速达到目标。对应的神经网络就是不同的优化方法，例如SGD,Adam，Adadelta等。在相同的学习条件下，选择不同的策略，达到目标的时间也是不一样的。

我们发现有些人在一个领域做好了，让他学习一个新领域，他的学习速度是别人的很多倍，比如数学好的人，再让他开始去学习物理，也一般学的很快很好，或者一个英语很好的人，让他去学法语，他学的也比没怎么学过英语的快很多。如果你做过迁移学习，会发现如果一个神经网络在另外一个数据集上训练的好了，把这个训练好神经网络的神经网络拿到一个新数据集上，即使差异很大，这个神经网络也能非常快速的收敛，比从零开始训练可能快10倍也有。这就说明我们有些小爱好，比如研究数独或者棋牌游戏，可能对学习科学很有利。

世界万物都是类似的，每个人出生，都自带了一张容量巨大的，神经元数量巨大的大脑（对应层数很多，也很宽的深度神经网络），为什么有些人很牛逼，可能是他在读书或者实践中，把自己这个神经网络训练的非常好吧；

哎，不多说了，像我学习率这么低又这么呆的人，只能赶紧去读书训练自己的神经网络了。