YOLOv11改进 | 添加注意力机制篇 | 添加MSDA多尺度空洞注意力（全新的YOLOv11改进策略，二次创新C2PSA机制）

已于 2024-10-13 23:59:36 修改
阅读量4.5k 收藏 58
点赞数 33
分类专栏： YOLOv11有效涨点专栏 文章标签： YOLO 目标检测 深度学习 计算机视觉 人工智能 python YOLOv11
于 2024-10-13 23:59:02 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/142905196
版权

 一、本文介绍

本文给大家带来的改进机制是MSDA（多尺度空洞注意力）发表于中科院一区(算是国内计算机领域的最高期刊了)，其全称是"DilateFormer: Multi-Scale Dilated Transformer for Visual Recognition"。MSDA的主要思想是通过线性投影得到特征图X的相应查询、键和值。然后，将特征图的通道分成n个不同的头部，并在不同的头部中以不同的扩张率执行多尺度SWDA来提高模型的处理效率和检测精度。亲测在小目标检测和大尺度目标检测的数据集上都有大幅度的涨点效果(mAP直接涨了大概有0.06左右)。最后本文会手把手教你添加MSDA模块到网络结构中。

  专栏回顾：YOLOv11改进系列专栏——本专栏持续复习各种顶会内容——科研必备

目录

 一、本文介绍

二、MSDA框架原理

三、MSDA核心代码

四、手把手教你添加MSDA模块

4.1 修改一

4.2 修改二 

4.3 修改三 

4.4 修改四 

4.2 MSDA的yaml文件和训练截图

4.2.1 MSDA的yaml版本一(推荐)

4.2.2 MSDA的yaml版本二

4.4 MSDA的训练过程截图 

了解本专栏 订阅专栏 解锁全文
YOLOv11改进 | 独家创新- 注意力篇 | YOLOv11结合全新多尺度线性注意力机制MLAttention(全网独家创新)
tsg6698的博客
10-02 2157
(2). 多层次的特征融合：MLAttention模块中的多组卷积层会提取不同层次的特征，并通过逐步累加的方式将这些特征进行融合。这种设计不仅保留了原始特征的基本信息，还通过注意力机制对特征进行了加强，能够在保留基础信息的同时突出关键特征，进一步提升模型的特征表达能力。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv8改进 | 注意力机制 | 添加MSDA多尺度空洞注意力（全新的YOLOv8改进策略）
Snu77的博客
12-25 9080
本文给大家带来的改进机制是MSDA（多尺度空洞注意力）发表于今年的中科院一区(算是国内计算机领域的最高期刊了)，其全称是"DilateFormer: Multi-Scale Dilated Transformer for Visual Recognition"。MSDA的主要思想是通过线性投影得到特征图X的相应查询、键和值。然后，将特征图的通道分成n个不同的头部，并在不同的头部中以不同的扩张率执行多尺度SWDA来提高模型的处理效率和检测精度。
【YOLO11改进】改进Conv、颈部网络STFEN、以及引入PIOU用于小目标检测！
最新发布
猫天意的博客
05-05 1198
Yolo11小目标检测改进
【YOLOv8改进】 MSDA：多尺度空洞注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
02-21 6696
作为事实上的解决方案，标准的视觉变换器（ViTs）被鼓励模拟任意图像块之间的长距离依赖性，而全局关注的接受域导致了二次计算成本。视觉变换器的另一个分支受到CNNs启发，利用局部注意力，只模拟小邻域内块之间的交互。尽管这样的解决方案降低了计算成本，但它自然会受到小的关注接受域的限制，这可能会限制性能。在这项工作中，我们探索有效的视觉变换器，以追求计算复杂性和关注接受域大小之间的理想折衷。通过分析ViTs中全局注意力的块交互，我们观察到浅层中的两个关键属性，即局部性和稀疏性，表明在ViTs的浅层中全局依赖性建模
YOLOv11改进 | 注意力篇 | YOLOv11引入Polarized Self-Attention注意力机制
tsg6698的博客
10-03 1329
在本文中，我们提出了偏振自注意力（PSA）模块，它结合了高质量像素级回归的两个关键设计：（1）偏振过滤：在通道和空间注意力计算中保持高内部分辨率，同时完全折叠输入张量 它们的对应尺寸。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~这有助于在不增加太多计算负担的情况下，保留重要的空间细节和通道信息。
Yolov8小目标检测（26）：多尺度空洞注意力（MSDA） | 中科院一区顶刊 DilateFormer 2023.9
10-21 2285
多尺度空洞注意力（MSDA） | 亲测在红外弱小目标检测涨点，map@0.5 从0.755提升至0.784
YOLOv10改进 | 注意力机制 | 添加MSDA多尺度空洞注意力（全新的YOLOv10改进策略，优化PSA机制二次创新）
Snu77的博客
07-09 1357
本文给大家带来的改进机制是MSDA（多尺度空洞注意力）发表于今年的中科院一区(算是国内计算机领域的最高期刊了)，其全称是"DilateFormer: Multi-Scale Dilated Transformer for Visual Recognition"。MSDA的主要思想是通过线性投影得到特征图X的相应查询、键和值。然后，将特征图的通道分成n个不同的头部，并在不同的头部中以不同的扩张率执行多尺度SWDA来提高模型的处理效率和检测精度。
YOLOv11改进有效涨点专栏目录 | 含卷积、主干、注意力机制、Neck、检测头、损失函数、二次创新C2PSA/C3k2等各种网络结构改进
Snu77的博客
11-05 5万+
Hello，各位读者们好.本文为最新YOLOv11有效涨点专栏目录，YOLOv11以及发布了一个月左右，这个过程中我也是给大家整理了许多的机制，其中包含了C3k2、主干（均支持根据yolov11训练的版本进行二次缩放，全系列都能轻量化）、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 15万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
YOLOv10改进 | 注意力篇 | YOLOv10引入MSDA多尺度空洞注意力
tsg6698的博客
06-18 886
我们的 DilateFormer-Base 在 ImageNet-1K 分类任务上实现了 85.6% 的 top-1 准确率，在 COCO 对象检测/实例分割任务上实现了 53.5% 的框 mAP/46.1% 的掩模 mAP，在 ADE20K 语义分割任务上实现了 51.1% 的 MS mIoU。MSDA利用不同的膨胀率（dilation rates）为不同的头部设置不同的尺度，这使得该模块能够在保持特征图分辨率的同时增加感受野，并有效减少自注意力机制中的冗余。大家根据自己的数据集实际情况，修改nc大小。
YOLOv11改进 | 上采样篇 | YOLOv11引入DySample轻量级动态上采样器
tsg6698的博客
10-03 2573
虽然最近的基于内核的动态上采样器（如CARAFE、FADE和SAPA）的性能提升令人印象深刻，但它们引入了大量工作负载，主要是由于耗时的动态卷积和用于生成动态内核的额外子网。DySample模块的设计旨在解决现有动态上采样器的高计算开销和复杂性问题，同时提供更好的性能和效率。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLO11改进|注意力机制篇|引入MSCA注意力机制
A1983Z的博客
10-08 3768
YOLO11中添加MSCA多尺度卷积注意力
YOLOv10改进 | 注意力篇 | YOLOv10改进CA注意力机制
tsg6698的博客
06-12 3623
摘要：最近关于移动网络设计的研究已经证明了通道注意力（例如，挤压和激励注意力）对于提升模型性能的显着有效性，但它们通常忽略了位置信息，而位置信息对于生成空间选择性注意力图很重要。在本文中，我们通过将位置信息嵌入到通道注意力中，提出了一种新颖的移动网络注意力机制，我们称之为“协调注意力”。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv8改进 | Conv篇 | 最新轻量化自适应提取模块LAE助力边缘设备部署计算（附代码 + 修改教程 + 运行教程）
Snu77的博客
09-14 2983
本文给大家带来的一个改进机制是最新由LSM-YOLO提出的轻量化自适应特征提取（Lightweight Adaptive Extraction, LAE）模块，其是LSM-YOLO模型中的关键模块，旨在进行多尺度特征提取，同时降低计算成本。LAE通过以下方式实现更有效的特征提取：多尺度特征提取、自适应特征提取。LAE模块可以在不增加额外参数的情况下提高了模型对ROI区域的检测性能。​
YOLOv8-Seg改进：多尺度空洞注意力（MSDA），增强局部、稀疏提取特征能力
会AI的学姐
11-09 1159
多尺度空洞注意力（MSDA）。MSDA 能够模拟小范围内的局部和稀疏的图像块交互； ；如何在OLOv8-seg下使用：1）作为注意力机制放在各个网络位置；2）与C2f结合替代原始的C2f
YOLOv11改进 | 独家创新- 注意力篇 | YOLOv11结合全新多尺度动态增强注意力机制DSAttention(全网独家创新)
tsg6698的博客
10-04 689
(4). 通道注意力增强：DSAttention在进行多尺度卷积之前，利用池化操作结合1x1卷积进行通道注意力的计算，通过Adaptive Pooling层提取通道间的全局信息，并通过Sigmoid激活函数强化重要的特征通道，从而提升特征选择的精度。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLO11改进|注意力机制篇|引入MSDA注意力机制
A1983Z的博客
10-14 1252
YOLO11中添加MSDA注意力机制
YOLO11改进-模块-引入极性感知注意力 Polarity-Aware Attention
qq_64693987的博客
02-25 1361
在传统的模型注意力机制里，就好比我们看东西只看一半。它常常会把一些带有 “负” 含义的信息丢掉，只留下 “正” 信息。比如说，在判断两个事物的关系时，只关注它们相似、匹配的地方，而忽略了它们之间不匹配、相反的部分。极性感知注意力就改进了这一点，它把每个信息（查询向量和键向量）都拆成 “正” 和 “负” 两个部分。这样一来，模型在计算两个信息之间的关系时，不仅会考虑它们相同符号（比如都为正或者都为负）部分的相似程度，还会考虑不同符号（一个正一个负）部分的相互作用。
yolov11eca注意力机制加yolo11s.pt
01-27
### 添加ECA注意力机制至YOLOv1 对于在YOLOv1模型中集成ECA（Efficient Channel Attention）注意力机制并加载`yolo11s.pt`预训练权重文件的过程，可以按照如下方法实现： #### 修改YOLOv1网络结构以支持ECA模块 为了使YOLOv1能够利用ECA特性增强特征表达能力，在原有基础上引入ECA模块成为必要。具体来说，可以在卷积层之后立即插入ECA操作来调整通道间的依赖关系。 ```python import torch.nn as nn class ECALayer(nn.Module): """Constructs a ECA module. Args: channel: Number of channels of the input feature map k_size: Adaptive selection of kernel size """ def __init__(self, channel, k_size=3): super(ECALayer, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.conv = nn.Conv1d(1, 1, kernel_size=k_size, padding=(k_size - 1) // 2, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): # Feature descriptor on the global spatial information y = self.avg_pool(x) # Two different branches of ECA module y = self.conv(y.squeeze(-1).transpose(-1, -2)).transpose(-1, -2).unsqueeze(-1) # Multi-scale information fusion y = self.sigmoid(y) return x * y.expand_as(x) ``` 此部分代码定义了一个简单的ECA层[^1]。接下来需要修改YOLOv1架构中的某些特定位置加入上述自定义的ECA组件。 #### 加载预训练权重文件 `yolo11s.pt` 当完成对YOLOv1框架内嵌入ECA单元后，则需考虑如何正确读取指定名称为`yolo11s.pt`的PyTorch格式保存下来的参数集合。这通常涉及到两步工作：一是确保模型类定义与原版保持一致；二是通过官方API恢复这些已学得的知识表示形式。 ```python model.load_state_dict(torch.load('path_to_your/yolo11s.pt')) ``` 这里假设路径设置无误的情况下可以直接调用`.load_state_dict()`函数完成整个过程。值得注意的是，如果存在版本差异或其他兼容性问题时可能还需要额外处理才能顺利迁移权重值。
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值