本文主要是介绍Assisted Excitation of Activations: A Learning Technique to Improve Object Detect,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
CVPR2019
很简单的一篇文章,不是在网络结构设计或者loss上做改进, 而是提出一种简单的学习策略。它基于curriculum learning
的思想:如果我们先学习简单的任务, 再学习复杂的任务, 我们会取得更好的效果。
以YOLO为例:
在YOLO的网络中加入这样的辅助激发层(AE)。 它根据ground truth的位置, 在原有特征图上激发对应位置(实质也是attention)。EA层具体如下:
其中alpha随着训练的进行,逐渐减小, 最后变成0, 这样EA的输入和输出是相同的。回到原始YOLO的训练模式。
很容易理解:alpha越大, ground truth渗透的信息就越多, 训练难度就越低; 反之越大。 alpha渐次降低, 符合直观的从易到难学习过程。
效果:整个网络架构几乎没有改变, 所以速度不变, 精度有所提升。
小结: 这个从易到难的学习策略可以借鉴。
这篇关于Assisted Excitation of Activations: A Learning Technique to Improve Object Detect的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!