CVPR2019
很简单的一篇文章,不是在网络结构设计或者loss上做改进, 而是提出一种简单的学习策略。它基于curriculum learning
的思想:如果我们先学习简单的任务, 再学习复杂的任务, 我们会取得更好的效果。
以YOLO为例:

在YOLO的网络中加入这样的辅助激发层(AE)。 它根据ground truth的位置, 在原有特征图上激发对应位置(实质也是attention)。EA层具体如下:



其中alpha随着训练的进行,逐渐减小, 最后变成0, 这样EA的输入和输出是相同的。回到原始YOLO的训练模式。

很容易理解:alpha越大, ground truth渗透的信息就越多, 训练难度就越低; 反之越大。 alpha渐次降低, 符合直观的从易到难学习过程。
效果:整个网络架构几乎没有改变, 所以速度不变, 精度有所提升。
小结: 这个从易到难的学习策略可以借鉴。
CVPR2019提出一种简单学习策略,基于curriculum learning思想,先学简单任务再学复杂任务。以YOLO为例,在其网络中加入辅助激发层(AE),通过调整alpha值实现从易到难训练。该策略使网络速度不变,精度提升,值得借鉴。
431

被折叠的 条评论
为什么被折叠?



