YOLOv9改进策略 | 添加注意力篇 | 注意力与卷积混合的融合ACmix助力YOLOv9（附代码 + 解析 + 添加教程）

最新推荐文章于 2025-06-06 08:17:53 发布
最新推荐文章于 2025-06-06 08:17:53 发布
阅读量1.7k 收藏 42
点赞数 19
CC 4.0 BY-SA版权
分类专栏： YOLOv9有效涨点专栏 文章标签： 深度学习 计算机视觉 人工智能 YOLO 神经网络 yolov9
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/138094059
本文详细介绍了YOLOv9中引入的ACmix模块，这是一种结合自注意力机制和卷积运算的新型结构，通过1x1卷积降低计算成本，同时提升模型性能。ACmix通过特征分解、运算共享和融合，以及运算分解与重构，实现了卷积和自注意力的高效集成。文章提供了ACmix的实现代码、添加步骤、yaml配置文件和训练过程截图，帮助读者理解和应用这一改进策略。

一、本文介绍

本文给大家带来的改进机制是ACmix自注意力机制的改进版本，它的核心思想是，传统卷积操作和自注意力模块的大部分计算都可以通过1x1的卷积来实现。ACmix首先使用1x1卷积对输入特征图进行投影，生成一组中间特征，然后根据不同的范式，即自注意力和卷积方式，分别重用和聚合这些中间特征。这样，ACmix既能利用自注意力的全局感知能力，又能通过卷积捕获局部特征，从而在保持较低计算成本的同时，提高模型的性能。欢迎大家订阅本专栏，本专栏每周更新3-5篇最新机制，更有包含我所有改进的文件和交流群提供给大家。

专栏地址：YOLOv9有效涨点专栏-持续复现各种顶会内容-有效涨点-全网改进最全的专栏 

目录

一、本文介绍

二、ACmix的框架原理

2.1 ACMix的基本原理 

2.1.1 自注意力和卷积的整合

2.1.2 运算分解与重构

三、ACmix的核心代码 

四、手把手教你添加ACmix

4.1 ACmix添加步骤

4.1.1 修改一

4.1.2 修改二

4.1.3 修改三 

4.1.4 修改四

4.1.5 修改五

4.2 ACmix的yaml文件和训练截图

4.2.1 ACmix的yaml版本一

4.2.1 ACmix的yaml版本二

4.3 HAT的训练过程截图 

五、本文总结

二、ACmix的框架原理

​​

官方论文地址：官方论文地址

官方代码地址：官方代码地址

了解本专栏 订阅专栏 解锁全文
YOLOv8改进 | 注意力机制 | 添加ACmix自注意力与卷积混合模型改善模型特征识别效率（提高FPS+检测效率）
Snu77的博客
12-28 9279
本文给大家带来的改进机制是ACmix自注意力机制的改进版本，它的核心思想是，传统卷积操作和自注意力模块的大部分计算都可以通过1x1的卷积来实现。ACmix首先使用1x1卷积对输入特征图进行投影，生成一组中间特征，然后根据不同的范式，即自注意力和卷积方式，分别重用和聚合这些中间特征。这样，ACmix既能利用自注意力的全局感知能力，又能通过卷积捕获局部特征，从而在保持较低计算成本的同时，提高模型的性能。
改进YOLOv5系列：融合ACmix结构的自注意力和卷积优化
带你成为别人眼中的大佬！
06-02 743
在前向传递过程中，我们通过获取卷积层的输出，计算出其平均值和最大值，并使用全连接层来生成权重矩阵。然而，针对它的一些缺点，我们提出了一种改进的方法：将自注意力和卷积集成并融合ACmix结构。ACmix结构可以通过使用适当的卷积操作，来更好地捕捉图像中不同尺度的特征，并使得特征检索更具有可预测性。自注意力是一种能够理解序列间依赖关系的机制，而卷积可以通过不同大小的卷积核来感知图像特征，并帮助我们提取更有意义的信息。在实际操作中，我们可以通过以上所述的代码来实现该模型，并在目标检测中取得更好的性能表现。
YOLOv7系列改进：ACmix结构的融合——自注意力和卷积的高效集成
QvisCs的博客
09-19 370
本文介绍了YOLOv7系列的改进，即ACmix结构的引入，通过将自注意力机制和卷积操作相融合，以提高性能并降低计算复杂度。最后，我们将自注意力机制的输出转换回原始卷积特征的形状，并返回最终的特征输出。为了进一步提升YOLOv7系列的性能，我们引入了ACmix结构，即自注意力和卷积的融合。在YOLOv7系列中，我们将ACmix结构应用于主干网络中的某些模块，以提升目标检测的性能。为了进一步提升YOLOv7系列的性能，我们引入了ACmix结构，将自注意力机制和卷积操作相融合，以提高性能并降低计算复杂度。
YOLOv10改进 | 注意力篇 | YOLOv10引入ACmix注意力机制
tsg6698的博客
06-15 443
在本文中，我们表明它们之间存在很强的潜在关系，从某种意义上说，这两种范式的大量计算实际上是通过相同的操作完成的。这种观察自然地导致了这两个看似不同的范式的优雅整合，即一个混合模型，它既享受自注意力和卷积（ACmix）的好处，同时与纯卷积或自注意力对应物相比具有最小的计算开销。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
Self-Attention和CNN的优雅集成，清华大学等提出ACmix，性能速度全面提升
机器学习社区
12-03 3274
清华大学等提出了一个混合模型ACmix：它既兼顾Self-Attention和Convolution的优点，同时与Convolution或Self-Attention对应的模型相比，具有更小的计算开销。实验表明，本文方法在图像识别和下游任务上取得了持续改进的结果。 >>加入极市CV技术交流群，走在计算机视觉的最前沿论文链接：https://arxiv.org/pdf/2111.14
YOLOv9改进策略目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
Snu77的博客
05-13 1万+
Hello，各位读者们好本专栏自开设两个月以来已经更新改进教程50余篇其中包含RepNCSPELAN4、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。同时本人一些讲解视频和包含我所有创新的YOLOv9文档并不能在优快云上传(所有的创新点都经过我的测试是可用的，得到该文件之后大家可以随意组合使用)，所以会建立群的形式在内上传我的文件和视频我也会在群内不定期和大家交流回答大家问题，同时定期会更新一些文章的创新点(经过我融合测试后的，先到先得)。
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 17万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
YOLOv11改进有效涨点专栏目录 | 含卷积、主干、注意力机制、Neck、检测头、损失函数、二次创新C2PSA/C3k2等各种网络结构改进
Snu77的博客
11-05 7万+
Hello，各位读者们好.本文为最新YOLOv11有效涨点专栏目录，YOLOv11以及发布了一个月左右，这个过程中我也是给大家整理了许多的机制，其中包含了C3k2、主干（均支持根据yolov11训练的版本进行二次缩放，全系列都能轻量化）、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。
[魔改]YOLOv10 目录 | 改进包括Backbone、Neck、Head、注意力、Conv、损失函数和具体的场景应用等 | 手撕结构图 | 全部代码+详细修改方式
静谧、淡雅
06-05 8821
YOLOv10的基础以及魔改的方法 - 总目录
YOLOv10改进 | 注意力机制 | 添加ACmix自注意力与卷积混合模型改善模型特征识别效率（包含二次创新PSA机制）
Snu77的博客
07-11 777
本文给大家带来的改进机制是ACmix自注意力机制的改进版本，它的核心思想是，传统卷积操作和自注意力模块的大部分计算都可以通过1x1的卷积来实现。ACmix首先使用1x1卷积对输入特征图进行投影，生成一组中间特征，然后根据不同的范式，即自注意力和卷积方式，分别重用和聚合这些中间特征。这样，ACmix既能利用自注意力的全局感知能力，又能通过卷积捕获局部特征，从而在保持较低计算成本的同时，提高模型的性能。本文包含二次创新PSA机制！YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备目录。
Vision Attention之ACmix：On the Integration of Self-Attention and Convolution
画心
12-05 1966
On the Integration of Self-Attention and Convolution 本文原始文档：https://www.yuque.com/lart/papers/nlu51g 整体概览可见链接里的公众号文章，本文主要针对模型设计的细节进行解释。 从摘要读文章 Convolution and self-attention are two powerful techniques for representation learning, and they are usually con
ResNet改进(52)：基于ACmix注意力机制的改进ResNet
最新发布
2401_82355416的博客
06-06 199
本文提出了一种ACmix-ResNet模型，创新性地将卷积神经网络(CNN)与自注意力机制相结合，以解决传统CNN的局部感受野限制和静态权重问题。该模型通过双分支结构设计：卷积分支保持局部特征提取能力，自注意力分支通过通道降维实现高效的全局关系建模。实验结果显示，ACmix-ResNet在图像分类等视觉任务中可提升2-4%的Top1准确率，同时仅增加约10%的计算开销。关键技术包括渐进式融合策略、层归一化稳定训练和自适应感受野设计，使模型能够根据网络深度动态平衡局部与全局特征提取。代码实现基于PyTorch
YOLOv5改进实战 | 添加注意力机制（四）之ACmix篇
w94ghz的博客
10-15 833
YOLO11改进|注意力机制篇|引入注意力与卷积混合的ACmix
A1983Z的博客
10-04 1579
YOLO11中添加ACmix注意力机制
人工智能论文通用创新点（一）——ACMIX 卷积与注意力融合、GCnet(全局特征融合)、Coordinate_attention、SPD（可替换下采样）
qq_52053775的博客
09-02 2608
很显然，H维度和W维度并不是独立的，我们还得考虑它们的关系，因此，我们将他们拼接，并通过卷积进行特征的融合，然后再进行切分，经过sigmoid得到X轴和Y轴的注意力权重。如下图所示，对于卷积，stage1用1*1的卷积代替3*3的卷积，得到不同位置的特征，stage2再利用类卷积操作进行偏移，实现3*3卷积的效果；我们在上文提到，自注意了机制是按照窗口进行计算的，具体实现是，首先我们对key做一个特征整合，具体来说是按照一个窗口重构出特征，然后对q中的每一个特征点，与key的窗口进行自注意力计算。
【YOLOv8改进 - 注意力机制】 CascadedGroupAttention：级联组注意力，增强视觉Transformer中多头自注意力机制的效率和有效性
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-02 1052
视觉Transformer由于其强大的模型能力，已经展示了巨大的成功。然而，其显著的性能伴随着高计算成本，这使得它们不适合实时应用。在本文中，我们提出了一系列高速视觉Transformer，命名为EfficientViT。我们发现现有Transformer模型的速度通常受限于内存效率低的操作，尤其是MHSA中的张量重塑和元素级函数。因此，我们设计了一个新的构建块，采用三明治布局，即在高效的FFN层之间使用单个内存绑定的MHSA，以提高内存效率同时增强通道通信。
【Transformer】18、ACMix：On the Integration of Self-Attention and Convolution
呆呆的猫的博客
12-09 2241
文章目录一、背景和动机二、方法三、效果 一、背景和动机 卷积核自注意机制是两个很有效的特征提取方法，但这两个方法通常被认为是两种不同机制的方法。 卷积方法是对局部进行特征抽取，全局特征共享，自注意力方法是全局像素的权重提取。 本文作者认为这两者有很强的底层关系，所以从大范围上来说，这两者的计算机制是类似的。 之前也有一些工作将这两者进行结合，如： SENet，CBAM 等则说明了自注意机制可以对卷积网络模型起到帮助。 SAN，BoTNet 等使用自注意模型来代替卷积操作 AA-ResNet，Contai
改进YOLOv8注意力系列一：结合ACmix、Biformer、BAM注意力机制
qq_44224801的博客
12-09 1856
- YOLOv8轻松上手，适用技术小白，文章代码齐全，仅需一键train，解决YOLOv8的技术突破和创新潜能。
ACmix：自注意力与卷积的结合
m0_63642362的博客
08-01 2817
卷积和自注意力是表示学习的两种强大技术，ACmix将自注意力与卷积相结合，并通过大量实验证明其在图像识别和下游任务的竞争基线上取得了持续改进的结果
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值