【论文阅读】SE Module 和 Attention Module

最新推荐文章于 2025-01-17 14:41:39 发布

麒麒哈尔

最新推荐文章于 2025-01-17 14:41:39 发布

阅读量3.3k

点赞数 2

CC 4.0 BY-SA版权

分类专栏：论文阅读文章标签： CNN 深度学习 CV

本文链接：https://blog.youkuaiyun.com/wqwqqwqw1231/article/details/91401198

本文介绍了在CNN深度学习领域中，如何通过SE Module和Attention Module提升特征提取的有效性。Attention Module由mask和trunk branch组成，利用mask作为weight乘以特征，形成Residual Attention Network。而SE Module则通过average pooling和全连接层计算channel权重，实现通道级别的特征强化，保持了channel内特征比例不变。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近阅读了两篇有关增强CNN能力的文章。CNN经过几年的研究，主流的网络框架不断的迭代，从最初的AlexNet到ResNet和DenseNet，似乎通用网络的框架的研究似乎到了一个瓶颈。这种通用的网络框架在不同的问题起着特征提取的作用，例如分割问题或是目标检测问题，那么如何在不改变大框架的情况下，进一步提升特征提取的有效性呢？研究者们通过使用soft weight增强网络的能力。

Attention Module

文章：Residual Attention Network for Image Classification

该文章提出了Attention Module，这个模块来自于Stacked Hourglass Networks for Human Pose Estimation文章。

Attention Module分为mask branch和trunk branch：trunk branch是主流网络的每一个模块，起到提取特征的作用；mask branch的输出是与对应特征提取层的输出尺寸相同，每个元素的大小是[0,1]，作为weight使用，乘于对应的特征，得到该Module的输出。然后将多个Module使用ResNet的方式串联，得到Residual Attention Network。

可以认为本文提到的soft weight是在每个channel内部的，因为mask branch的输出是与trunk branch的channel数相同，尺寸相同，对应的channel相乘。相当于mask branch是输出了每个channe的所有位置的soft weight。