作者在综述了一些应用注意力机制的论文之后,发现现有的通道注意力机制在获取通道描述符存在缺陷。作者提出一种分两步汇总空间信息的方法改进通道注意力机制,实现更加精细的编码。
上图为整个模型的网络结构。主干网络为最新的轻量级网络结构GhostNet.下面是三个分支网络,用来实现深浅层的特征融合。进行深浅层的特征融合,可以达到多尺度特征融合的效果。具体好处见下图。
作者改进的通道注意力机制模块。作者通过两步法逐步缩小特征图获取通道描述符,这种方式更加精细,获得的特征更加具有代表性。
空间注意力模块
本文主要是以GhostNet为主干网络。通过引入深浅层特征融合,改进通道注意力机制(两步法),改进空间注意力机制(引入多尺度特征)来改进网络的性能。
学习率的设置。大于50轮之后指数衰减。
在测试图片时,通过多个输出的平均来做最终的决策,减少分类误差