每日Attention学习5——Multi-Scale Channel Attention Module

最新推荐文章于 2025-03-21 21:46:35 发布
最新推荐文章于 2025-03-21 21:46:35 发布
阅读量1k 收藏 1
点赞数 6
分类专栏： 每日Attention学习 文章标签： 论文阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_40714949/article/details/138619456
版权
模块出处

[link] [code] [WACV 21] Attentional Feature Fusion

模块名称

Multi-Scale Channel Attention Module (MS-CAM)

模块作用

通道注意力

模块结构

在这里插入图片描述

模块代码
import torch
import torch.nn as nn


class MS_CAM(nn.Module):

    def __init__(self, channels=64, r=4):
        super(MS_CAM, self).__init__()
        inter_chan
最低0.47元/天 解锁文章
YOLOv10改进 | 特征融合篇，YOLOv10添加iAFF（多尺度通道注意力模块），二次创新C2f结构，提升小目标检测能力
在职AI算法工程师，擅长计算机视觉，YOLO目标检测、分割等，擅长web、pyqt界面可视化，好内容持续更新中，来这里跟大家一起学习，共同进步
09-25 491
AFF和iAFF的示意图如下：AFF模块：通过关注通道的不同尺度（即多尺度通道注意力），解决不同层次特征融合的语义和尺度不一致问题。图（a）中两个输入特征图（X 和 Y）的信息，经过多尺度通道注意力模块（MS-CAM）后，输出特征图Z。输入特征 X 和 Y：分别表示不同层或不同尺度的特征图。它们的尺寸都是 C×H×W （C 是通道数，H 和 W 是特征图的高度和宽度）。加权乘法：首先对 X 和 Y进行通道上的加权操作，用不同的权重去强调某些通道的信息。
YOLOv10涨点改进：如何魔改注意力进行二次创新，高效替换PSA | NEU-DET为案列进行展开
05-28 6160
在NEU-DET案列进行可行性验证，1）mAP50从0.683提升至0.698；2）mAP50从0.683提升至0.695;
【论文解读】Attentional Feature Fusion
weixin_46428351的博客
11-16 8088
Attentional Feature Fusion是一种使用多尺度上下文注意力方式来进行特征融合的方式。
篇2-多尺度注意力（Multi-scale attention）论文学习
helloaiti的博客
03-21 1485
以I3D网络提取的特征为输入，经卷积和重塑生成Q、K和V矩阵，通过矩阵乘法建模任意两个时空位置特征的时空关系，用softmax得到时空注意力权重分布矩阵，最终输出特征是所有位置特征的选择性聚合与原始特征加权和；当RC传输的特征和两次卷积操作后的特征维度不同时，使用1×1卷积层匹配维度。分别对1x1分支和3x3分支的输出用2D全局平均池化编码全局空间信息，再通过矩阵点积运算得到两个空间注意力图，最后将其聚合并经Sigmoid函数处理得到输出特征图，捕捉像素级成对关系，突出全局上下文，生成像素级注意力。
YOLOv9最新改进系列：YOLOv9改进加入新型高效的多尺度注意力（EMA）模块保留每个通道的信息并减少计算成本！助力v9检测性能遥遥领先！
B站 Ai学术叫叫兽的文案地
04-18 2966
YOLOv9最新改进系列：YOLOv9改进加入新型高效的多尺度注意力（EMA）模块保留每个通道的信息并减少计算成本！助力v9检测性能遥遥领先！
YOLO11改进-注意力-引入多尺度卷积注意力模块MSCAM
qq_64693987的博客
12-25 2997
MSCAM（多尺度卷积注意力模块）的设计旨在通过对特征图进行多维度的注意力加权，从而提升特征的判别性和丰富性，进而提高模型在医学图像分割等任务中的性能。注意力机制通过自动学习特征图中不同部分的重要性，对特征进行加权处理。在 MSCAM 中，这种机制分为通道注意力和空间注意力两个维度。1通道注意力：旨在学习每个通道的重要性。不同通道可能包含不同类型的特征信息，通过为每个通道分配不同的权重，可以突出重要通道的特征，抑制无关通道的特征。空间注意力：关注特征图中的不同空间位置。
多尺度变形注意力模块和多级特征聚合模块
小嘤熊的博客
11-08 1460
3️⃣C15 -C25 沿通道轴连接以获得具有多尺度变形感受野的新特征图，注意力图 A 是通过在这个新连接的特征图上应用 3 × 3 卷积层和 sigmoid 激活函数生成的。通过这种方式，MSDAM从具有大的多尺度可变形感受野的特征图中生成注意力图，从而可以更好地拟合各种形状和大小的遥感对象，并为遥感图像生成更精确的注意力图。（2）遥感图像中的物体实例具有变形和大尺度变化的特征，而具有固定形状和单尺度感受野的特征图C5很难很好地拟合这些物体并预测出精确的遥感图像注意力图。相应生成的特征图表示为于C05。
每日Attention学习2——Multi-Scale Convolutional Attention
xiongxyowo的博客
05-09 811
MSCA包含三个部分：一个深度卷积以汇总局部信息；一个多分支深度条带卷积以获取多尺度上下文；一个1×1卷积以建模不同通道之间的信息。该1×1卷积的输出将直接作为注意力以对MSCA的输出结果进行后处理加权。
每日Attention学习16——Multi-layer Multi-scale Dilated Convolution
xiongxyowo的博客
08-25 794
与传统的编码器-解码器结构相比，更好的分割模型应该使其编码器能够尽可能多地获取全局信息。然而，这通常受到小感受野应用的限制，因此传统编码器学习的图像特征包含的全局信息不足。多尺度膨胀卷积可以在一定程度上解决这个问题。但是，它仍然存在以下缺点：1）相应的图像大小通常是单一的，可能会错过不同尺度的全局信息，2）由于多层信息组合效率低下，可能会丢失更多的血管细节，特别是影响眼底图像中那些小血管的分割。为了解决这两个问题，我们提出了 MMDC 模块并将其插入 U-Net 模型的 skip 连接中。
深度学习——Multi-Scale Progressive Fusion Network for Single Image Deraining
weixin_51352656的博客
12-18 2050
CVPR2020论文：Multi-Scale Progressive Fusion Network for Single Image Deraining 1.主要内容：提出了多尺度渐进融合网络。实现了单幅图像去雨。该网络通过金字塔表示的方式，利用多尺度图像信息呈现雨纹特征。 例如，右边是原始尺度图像，左边是1/2尺度图像。文章指出，同一个尺度图像中，不同位置的雨纹具有相似的结构特征； 不同尺度的图像中，相同位置的雨纹亦有相似的结构特征。因此，我们可以提取、融合多尺度的图像信息，来获取雨纹的特征。 为了更
每日Attention学习17——Multi-Kernel Inverted Residual
xiongxyowo的博客
01-26 379
【代码】每日Attention学习17——Multi-Kernel Inverted Residual。
YOLO11改进-模块-引入多频率多尺度注意力（MFMSA）模块 提高多尺度、小目标
qq_64693987的博客
02-18 1739
模拟人类视觉处理机制：人类视觉系统在观察事物时，能自动融合不同尺度和频率的信息，精准理解周围环境。受此启发，MFMSA block 致力于模拟这一过程，更好地处理医学图像。医学图像中病变大小差异极大，像肿瘤、息肉和细胞等，其尺寸各不相同，需要多尺度特征才能精准定位和分割这些区域。同时，由于医学图像采集方式的特殊性，图像的频率变化比尺度变化更明显，多频率信息对于构建高效的医学图像分割模型起着关键作用。多尺度与多频率信息融合：MFMSA block 先借助预训练的 ResNeSt 网络来提取输入图像的特征。
(即插即用模块-Attention部分) 十二、(ICASSP 2023) EMA 多尺度注意力
wei582636312的博客
11-19 848
这篇论文中，作者先是重新审视了Coordinate Attention。指出CA忽略了完全空间位置之间相互作用的重要性，以及使用1x1卷积时存在的问题，即有限的感受域阻碍了局部跨通道交互的建模和利用上下文信息。因此，在CA的基础上，作者提出了一种新的高效多尺度注意力模块（Efficient Multi-Scale Attention Module）。
【Block总结】EfficientViT中的多尺度线性注意力模块即插即用
AI浩
03-02 1117
LiteMLA类继承自nn.Module，是一个自定义的神经网络层。在初始化方法__init__中，定义了多个参数来控制模块的行为：和分别表示输入和输出通道数。heads和用于控制注意力头的数量和比例。dim是每个注意力头的维度。use_bias指定是否在卷积层中使用偏置项。norm指定归一化层的类型，可以是None或"bn2d"（二维批量归一化）。act_func指定激活函数的类型。是用于 q 和 k 的激活函数，默认为"relu"。scales。
（脑肿瘤分割笔记：二十六）用于医学图像分割的多尺度自引导注意力
weixin_43921949的博客
09-08 2618
用于医学图像分割的多尺度引导注意力
YOLO系列自研改进：基于注意力机制的多尺度特征提取模块
weixin_47060902的博客
05-04 653
YOLO系列自研改进：基于注意力机制的多尺度特征提取模块
Multi-branch and Multi-scale Attention Learning for Fine-Grained Visual Categorization 论文学习
calvinpaean的博客
04-03 2973
Abstract ILSVRC（ImageNet大规模视觉识别挑战赛）是计算机视觉领域最权威的学术竞赛之一。直接将 ILSVRC 每年的冠军方案应用在细粒度视觉分类（FGVC）任务上无法取得很好的表现。对于 FGVC 任务而言，类间差异小而类内差异大的特点使这个问题变得很有挑战性。本文的注意力目标定位模块（AOLM）可以预测目标的位置，注意力局部提议模块（APPM）可以发现信息丰富的局部区域，无需边框或部分标注信息的帮助。得到的目标图像不仅包含目标的全部结构，也包含更多的细节信息，局部图像有多个不同的尺度和
双多尺度注意力网络（DMSANet: Dual Multi Scale Attention Network）
qq_40107571的博客
10-29 2807
双多尺度注意力网络
MUSE: PARALLEL MULTI-SCALE ATTENTION FOR SEQUENCE TO SEQUENCE LEARNING
Jeaksun的博客
06-05 1572
在顺序学习中，自我注意机制被证明是非常有效的，并在许多任务中取得了显著的改善。然而，自我注意机制也并非没有缺陷。虽然自我注意可以模拟极长的依赖关系，但深层的注意力往往过于集中在单一的表征上，导致对局部信息的充分利用，并难以表征长序列。在这项工作中，本文探索了序列数据上的并行多尺度表征学习，努力捕捉长程和短程语言结构。为此，本文提出了并行多尺度注意(MUSE)和MUSE-SIMPLE。本文将重点放在机器翻译上，提出的方法在性能上比Transformer有了很大的提高，特别是在长序列上。...
Enhanced Accurate Segmentation of Bridge Surface Image Defects Based on Multi-scale Feature Fusion
最新发布
03-25
### 基于多尺度特征融合的桥梁表面图像缺陷分割方法 为了实现高精度的桥梁表面图像缺陷分割，可以采用基于卷积神经网络（CNN）的方法来提取多尺度特征并进行融合。这种方法的核心在于通过不同层次的特征图捕获局部细节和全局上下文信息，从而提高模型对复杂背景和微小缺陷区域的识别能力。 #### 多尺度特征融合的作用 多尺度特征融合能够有效解决单一尺度特征无法全面描述目标对象的问题。具体来说，在深层网络中，浅层特征通常包含更多的纹理和边缘信息，而深层特征则更注重语义理解[^1]。因此，将两者结合起来可以在保持空间分辨率的同时增强对物体边界的刻画能力。 #### 实现过程中的关键技术点 以下是几个重要的技术环节： - **编码器解码器结构** 使用U-Net架构作为基础框架，其中编码部分负责逐级下采样获取抽象化特征；解码阶段则是逐步上采样的过程，恢复原始输入尺寸，并在此过程中引入跳跃连接以保留更多细粒度的空间位置关系[^2]。 - **注意力机制的应用** 引入通道注意模块(Channel Attention Module,CAM)或者空间注意模块(Spatial Attention Module,SAM)，使得网络更加关注那些对于当前任务至关重要的区域或通道响应强度较大的地方[^3]。 - **损失函数设计** 结合交叉熵损失(Cross Entropy Loss)与Dice系数等指标共同指导训练方向，确保像素级别分类准确性以及连通域完整性得到兼顾。 ```python import torch.nn as nn class MultiScaleFusionModule(nn.Module): def __init__(self, in_channels, out_channels): super(MultiScaleFusionModule, self).__init__() # 定义不同的分支操作 self.branch_1x1 = nn.Conv2d(in_channels, out_channels//4, kernel_size=1) self.branch_3x3_reduce = nn.Conv2d(in_channels, out_channels//4, kernel_size=1) self.branch_3x3 = nn.Conv2d(out_channels//4, out_channels//4, kernel_size=3, padding=1) def forward(self, x): branch_1x1_output = self.branch_1x1(x) branch_3x3_output = self.branch_3x3(self.branch_3x3_reduce(x)) fused_feature_map = torch.cat([branch_1x1
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值