YOLOv9改进策略 | 添加注意力篇 |倒置残差块注意力机制iRMB（含大量二次创新机会）

已于 2024-05-07 23:08:05 修改
阅读量1.4k 收藏 33
点赞数 16
分类专栏： YOLOv9有效涨点专栏 文章标签： 深度学习 人工智能 计算机视觉 YOLO yolov9 python 目标检测
于 2024-05-07 23:02:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/138542783
版权
本文介绍了iRMB（Inverted Residual Mobile Block）——一种结合轻量级CNN和注意力机制的新型结构，适用于移动设备的密集预测任务。iRMB通过倒置残差块和元移动块实现模型的轻量化和高效性能，文中详细阐述了iRMB的结构、原理，并提供了添加iRMB到YOLOv9的步骤和代码示例。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 一、本文介绍

本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO(后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制)。其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合(有点类似ACmix)，同时该注意力机制属于是比较轻量化的参数量比较小，训练速度也很快，后面我会将各种添加方法教给大家，让大家在自己的模型中进行复现。

专栏地址：YOLOv9有效涨点专栏-持续复现各种顶会内容-有效涨点-全网改进最全的专栏 

目录

 一、本文介绍

二、iRMB的框架原理

2.1 iRMB结构

2.2 倒置残差块

2.3 元移动块（Meta-Mobile Block）

三、iRMB的核心代码 

四、手把手教你添加iRMB机制 

4.1 iRMB添加步骤

4.1.1 修改一

4.1.2 修改二

4.1.3 修改三 

4.1.4 修改四

4.2 iRMB的yaml文件和训练截图

4.2.1 iRMB的yaml版本一(推荐)

4.2.2 iRMB的yaml版本二

了解本专栏 订阅专栏 解锁全文
【YOLOv8改进-注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
03-12 7562
【YOLOv8改进-注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力虽然倒置残差块（IRB） 我们将基于CNN的IRB扩展到基于注意力的模型，并提出了一种单残差元移动块（MMB）用于轻量级模型设计。
YOLOv8改进 | 注意力机制 | 添加iRMB倒置残差块注意力机制（轻量化注意力机制）
Snu77的博客
01-01 6768
本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO(后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制)。其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合(有点类似ACmix)，我将iRMB和C2f结合，然后也将其用在了检测头种进行尝试三种结果进行对比，针对的作用也不相同，但是无论那种实验均有一定涨点效果。
【YOLOv5 Note-6】实现倒置残差块（Inverted Residual Block）
qq_60245590的博客
01-26 2056
IRBlock类继承自nn.Module，是一个神经网络模块。__init__方法是类的构造函数，用于初始化实例。inp: 输入通道数。oup: 输出通道数。stride: 卷积的步长，决定了输出特征图的大小。expansion: 扩展因子，用于控制内部隐藏层通道数的扩展。
YOLOv10改进 | 注意力篇 | YOLOv10引入iRMB
tsg6698的博客
06-20 589
在 ImageNet-1K、COCO2017 和 ADE20K 基准上进行的大量实验证明了我们的 EMO 相对于最先进方法的优越性，例如，EMO-1M/2M/5M 达到了 71.5、75.1 和 78.4 Top-1，超越了同等水平的 Top-1。这种组合方式有效地提高了模型的效率和性能。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
yolov5主干网络换残差18
m0_53291740的博客
08-08 639
在common.py后面加入如下刚刚定义的网络，就是上面的代码的一部分。如此修改网络的yaml文件，yolov5n_res18.yaml。修改yolo网络并运行。需要导包的可以自己导一下。更换网络后的参数如下。
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 15万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
YOLOv9改进策略目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
Snu77的博客
05-13 1万+
Hello，各位读者们好本专栏自开设两个月以来已经更新改进教程50余篇其中包含RepNCSPELAN4、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。同时本人一些讲解视频和包含我所有创新的YOLOv9文档并不能在优快云上传(所有的创新点都经过我的测试是可用的，得到该文件之后大家可以随意组合使用)，所以会建立群的形式在内上传我的文件和视频我也会在群内不定期和大家交流回答大家问题，同时定期会更新一些文章的创新点(经过我融合测试后的，先到先得)。
YOLOv11改进有效涨点专栏目录 | 含卷积、主干、注意力机制、Neck、检测头、损失函数、二次创新C2PSA/C3k2等各种网络结构改进
Snu77的博客
11-05 5万+
Hello，各位读者们好.本文为最新YOLOv11有效涨点专栏目录，YOLOv11以及发布了一个月左右，这个过程中我也是给大家整理了许多的机制，其中包含了C3k2、主干（均支持根据yolov11训练的版本进行二次缩放，全系列都能轻量化）、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。
即插即用模块反向残留移动块（iRMB）详解（论文+代码）
weixin_47151388的博客
04-26 6525
本文的重点是在权衡参数、FLOPs和性能的同时，为密集预测开发现代、高效、轻量级的模型。倒立残差块(IRB)是轻量级cnn的基础结构，但在基于注意力的研究中还没有相应的基础结构。本文从高效IRB和Transformer的有效组件的统一角度重新思考轻量级基础架构，将基于cnn的IRB扩展到基于注意力的模型，并抽象出一个用于轻量级模型设计的单残留元移动块(MMB)。根据简单而有效的设计准则，我们推导出了一种现代的反向残差移动块(Inverted Residual Mobile Block,iRMB)
注意力机制篇 | YOLOv8改进之在C2f模块引入反向残差注意力模块iRMB | CVPR 2023
突然好想你
05-14 1210
反向残差注意力模块iRMB是一种用于图像分类和目标检测的深度学习模块。它结合了反向残差和注意力机制的优点，能够有效地提高模型的性能。在iRMB中，反向残差指的是将原始的残差块进行反转，即将卷积操作和批量归一化操作放在了后面。这样做的好处是，可以提高模型的非线性表达能力，同时减少了参数量。🌈
（内含即插即用代码）涨点神器！反向残差注意力模块 iRMB，《ICCV 2023 最新论文》
weixin_57111012的博客
11-15 2417
反向残差注意力模块 iRMB的即插即用代码
快收藏！！自注意力机制创新点合集
Jason160918的博客
01-01 656
快收藏！！自注意力机制创新点合集 🤢 算法优化和扩展 在自注意力机制的算法优化方面，今年的创新主要集中在提高模型的性能和适应性。例如，Transformer模型的变体，如Swin Transformer和Vision Transformer，针对特定任务进行了优化。Swin Transformer通过采用层次化的结构和移动窗口的策略，有效地减少了计算复杂度，并提升了在大规模视觉任务中的性能。此外，为了更好地处理序列数据，研究者们也开发了递归Transformer结构，这种结构结合了递归神经
YOLO11改进|注意力机制篇|引入反向残差移动快iRMB
A1983Z的博客
10-07 1933
YOLO11中添加反向残差移动块iRMB
YOLOv8模型改进 第十九讲 添加倒置残差移动块iRMB（Inverted Residual Mobile Block，） 去除图像噪声
qq_64693987的博客
11-08 2783
模块结构该模块由三个主要的卷积层和一个注意力机制（Attention Mechanism）组成。模块的输入是一个特征图（Feature Map），输出也是一个特征图。卷积层第一层：1x1 卷积（1x1 Conv）这是模块的第一层，对输入的特征图进行 1x1 卷积操作。该层的输出分为三路，分别用于后续的操作。第二层：3x3 深度可分离卷积（3x3 DW - Conv）这是模块的第二层，对第一层 1x1 卷积的输出进行 3x3 深度可分离卷积操作。
爱人民币（iRMB）就不会 EMO 了？CNN和ViT的倒残差设计
CV_Autobot的博客
08-29 398
作者|派派星 编辑| CVHub点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【全栈算法】技术交流群本文只做学术分享，如有侵权，联系删文Title：Rethinking Mobile Block for Efficient Attention-based ModelsPaper：https://arxiv.org/abs/2301.01146Cod...
集成iRMB倒置残差块的YOLOv8改进：轻量化注意力机制助力高效目标检测【YOLOv8】
步入烟尘的博客
11-28 806
iRMB倒置残差块是一种高效的卷积模块，主要用于提高模型的表达能力和计算效率。它结合了倒置残差块和注意力机制，使得模型能够更好地关注关键区域并减少计算量。倒置残差块（Inverted Residual Block）：通过深度可分离卷积减少计算复杂度，同时保持较高的特征表达能力。注意力机制：通过权重调整，帮助模型关注图像中的重要区域，从而提高检测精度。
YOLOv11改进 | 添加注意力机制 | iRMB与EMA结合（二次创新）
m0_64858060的博客
03-03 1096
YOLOv11改进 | 添加注意力机制 | iRMB与EMA结合（二次创新）
YOLOv8改进 | 注意力机制 | 反向残差注意力机制【内含创新技巧思维】
kay_545
08-03 1395
yolov8，iRMB，yolov8改进
yolov5注意力机制改进
最新发布
03-08
### YOLOv5 注意力机制 改进方法 #### 1. 引入EMA技术提升模型稳定性 为了减少训练过程中的随机噪声并提高模型的泛化能力，在YOLOv5中可以引入指数移动平均(Exponential Moving Average, EMA)技术。该技术通过对历史权重进行加权平均来平滑更新后的权重，从而使得模型更加稳定[^2]。 #### 2. 应用EIoU、SIoU等新型损失函数改善定位准确性 针对目标检测任务中存在的边界框回归问题，可以通过替换传统的IOU形式的损失函数为更先进的版本如EIoU (Extended Intersection over Union)，SIoU(Spatial IoU Loss), WIoU(Weighted IOU Loss)，DIoU(Distance-IoU Loss)，FocusIoU等来进行优化。这些改进型损失函数能够更好地捕捉物体形状特征以及位置关系，进而显著提高了模型对于不同尺度和姿态的目标检测效果[^1]。 #### 3. 集成高效轻量化注意力模块增强表达能力 考虑到计算资源消耗与实际应用场景需求之间的平衡，在YOLOv5框架内集成高效的轻量级注意力机制是一种有效的策略。例如，可以在骨干网络（Backbone）末端添加SimAM这样的简单而强大的非局部操作；或者探索其他创新性的方案，像ECA(Efficient Channel Attention)-Net所提出的自适应选择最优卷积核尺寸的方法，以此强化通道间的信息交互效率而不增加过多额外开销[^3][^4]。 ```python import torch.nn as nn class SimAM(nn.Module): def __init__(self, lambda_param=0.01): super().__init__() self.lambda_param = lambda_param def forward(self, x): b, c, h, w = x.size() # 计算每个像素点的重要性得分 n_x = x - x.max(dim=-1)[0].max(dim=-1)[0].unsqueeze(-1).unsqueeze(-1) m_x = torch.exp(n_x / (torch.std(x.view(b,c,-1), dim=-1)+1e-8)).view(b,c,h,w) mask = ((m_x * n_x)**2)/(m_x.sum(dim=(-1,-2))).unsqueeze(-1).unsqueeze(-1) return x + self.lambda_param * mask.sign() * mask.abs().sqrt() # 将SimAM应用于YOLOv5 backbone的最后一层 model.backbone[-1] = nn.Sequential(model.backbone[-1], SimAM()) ```
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值