【YOLOv8改进-注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力

已于 2025-03-08 21:30:39 修改
阅读量7.5k 收藏 6
点赞数 27
分类专栏： YOLOV8基础解析+创新改进+实战案例 文章标签： YOLO 论文阅读 目标检测 计算机视觉 yolov8 人工智能
于 2024-03-12 17:23:21 首次发布
原创文章，禁止任何形式转载！
本文链接：https://blog.youkuaiyun.com/shangyanaf/article/details/136658166
版权
该博客介绍了iRMB，一种结合CNN和Transformer优点的轻量级模块，适用于移动端应用。iRMB在保持高效的同时，通过融合局部特征捕获和全局上下文理解，提高了模型性能。文章详细阐述了iRMB的创新点、设计原理和在YOLOv8中的应用，并提供了代码下载和环境配置指导。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

YOLOv8目标检测创新改进与实战案例专栏

专栏目录： YOLOv8有效改进系列及项目实战目录 包含卷积，主干 注意力，检测头等创新机制 以及 各种目标检测分割项目实战案例
专栏链接: YOLOv8基础解析+创新改进+实战案例

在这里插入图片描述

文章目录

介绍

image-20240312164623736

摘要

本论文旨在开发现代、高效、轻量的密集预测模型，并在参数、浮点运算次数与性能之间寻求平衡。虽然倒置残差块（IRB

了解本专栏 订阅专栏 解锁全文
【YOLOv8改进[注意力]】添加iRMB倒置残差块注意力(2023.8) + 含全部代码和详细修改方式 + 手撕结构图
静谧、淡雅
07-12 4729
【YOLOv8改进[注意力]】添加iRMB倒置残差块注意力(2023.8) + 含全部代码和详细修改方式 + 手撕结构图
YOLOv8改进 | 注意力机制 | 添加iRMB倒置残差块注意力机制（轻量化注意力机制）
走向CTO的路上...
06-26 1054
iRMB注意力机制是一种轻量化的注意力机制，它通过将倒置残差块与注意力模块相结合来提升模型性能，同时降低计算复杂度。该机制已被证明能够有效地提高YOLOv8目标检测模型的精度，尤其是在小目标检测方面。iRMB注意力机制是一种有效的轻量化注意力机制，它能够在提升模型性能的同时降低计算复杂度。该机制已被证明能够有效地提高YOLOv8目标检测模型的精度，并具有较强的通用性，可以应用于多种视觉任务。
YOLOv8 改进：添加 iRMB 注意力机制（反向残差注意力）
走向CTO的路上...
04-01 677
通过将 iRMB 注意力机制集成到 YOLOv8 中，可以大幅提升模型在复杂场景下的特征提取能力。这种机制不仅保持了模型的轻量化特性，也增强了对重要特征的捕获效果。
YOLOv8改进 添加倒置残差注意力机制iRMB
分享一些自己改进代码的实例
04-24 868
本文 添加倒置残差注意力机制iRMB，通过将多分支注意力模块和倒置残差连接结合起来，可以有效地提取图像特征。
即插即用模块反向残留移动块（iRMB）详解（论文+代码）
weixin_47151388的博客
04-26 6482
本文的重点是在权衡参数、FLOPs和性能的同时，为密集预测开发现代、高效、轻量级的模型。倒立残差块(IRB)是轻量级cnn的基础结构，但在基于注意力的研究中还没有相应的基础结构。本文从高效IRB和Transformer的有效组件的统一角度重新思考轻量级基础架构，将基于cnn的IRB扩展到基于注意力的模型，并抽象出一个用于轻量级模型设计的单残留元移动块(MMB)。根据简单而有效的设计准则，我们推导出了一种现代的反向残差移动块(Inverted Residual Mobile Block,iRMB)
【YOLOv5 Note-6】实现倒置残差块（Inverted Residual Block）
qq_60245590的博客
01-26 2053
IRBlock类继承自nn.Module，是一个神经网络模块。__init__方法是类的构造函数，用于初始化实例。inp: 输入通道数。oup: 输出通道数。stride: 卷积的步长，决定了输出特征图的大小。expansion: 扩展因子，用于控制内部隐藏层通道数的扩展。
YOLOv8改进 - 注意力篇 - 引入iRMB注意力机制
浪子L的博客
11-03 1466
YOLOv8改进 - 注意力篇 - 引入iRMB注意力机制
【YOLOv11改进 - 注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力
2401_85597258的博客
11-07 1041
本论文旨在开发现代、高效、轻量的密集预测模型，并在参数、浮点运算次数与性能之间寻求平衡。虽然倒置残差块（IRB）是轻量级卷积神经网络（CNN）的重要基础，但在基于注意力的研究中尚缺类似的构件。本研究从统一视角出发，结合高效IRB和有效的Transformer组件，重新考虑轻量级基础架构。我们将基于CNN的IRB扩展到基于注意力的模型，并提出了一种单残差元移动块（MMB）用于轻量级模型设计。
【YOLOv10改进-注意力机制】iRMB： 倒置残差移动块 (论文笔记+引入代码)
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-29 1620
本论文旨在开发现代、高效、轻量的密集预测模型，并在参数、浮点运算次数与性能之间寻求平衡。虽然倒置残差块（IRB）是轻量级卷积神经网络（CNN）的重要基础，但在基于注意力的研究中尚缺类似的构件。本研究从统一视角出发，结合高效IRB和有效的Transformer组件，重新考虑轻量级基础架构。我们将基于CNN的IRB扩展到基于注意力的模型，并提出了一种单残差元移动块（MMB）用于轻量级模型设计。
【YOLOv8改进 - C2f融合】C2f融合iRMB： 倒置残差移动块，即插即用的轻量注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
03-08 187
【YOLOv8改进 - C2f融合】C2f融合iRMB： 倒置残差移动块，即插即用的轻量注意力我们将基于CNN的IRB扩展到基于注意力的模型，并提出了一种单残差元移动块（MMB）用于轻量级模型设计。
AI：293-提升YOLOv8性能 | 集成iRMB倒置残差块注意力机制的轻量化改进
一键难忘的博客
09-13 4298
iRMB倒置残差块是一种高效的卷积模块，主要用于提高模型的表达能力和计算效率。它结合了倒置残差块和注意力机制，使得模型能够更好地关注关键区域并减少计算量。倒置残差块（Inverted Residual Block）：通过深度可分离卷积减少计算复杂度，同时保持较高的特征表达能力。注意力机制：通过权重调整，帮助模型关注图像中的重要区域，从而提高检测精度。
MobileNetV2 倒置残差和线性瓶颈
qq_16130715的博客
01-23 8312
参考博客论文地址 摘要  在本文中，我们描述了一种新的移动网络结构MobileNetV2，它提高了移动网络在多类型任务和基准以及不同网络尺寸范围的最佳性能。我们还介绍了一种有效地使用轻量级网络进行目标检测的新颖架构SSDLite。并且我们将Deeplabv3进行修剪后构建出一种用于移动语义分割的模型，称为Mobile Deepla...
注意力机制篇 | YOLOv8改进之在C2f模块引入反向残差注意力模块iRMB | CVPR 2023
突然好想你
05-14 1205
反向残差注意力模块iRMB是一种用于图像分类和目标检测的深度学习模块。它结合了反向残差和注意力机制的优点，能够有效地提高模型的性能。在iRMB中，反向残差指的是将原始的残差块进行反转，即将卷积操作和批量归一化操作放在了后面。这样做的好处是，可以提高模型的非线性表达能力，同时减少了参数量。🌈
集成iRMB倒置残差块的YOLOv8改进：轻量化注意力机制助力高效目标检测【YOLOv8】
步入烟尘的博客
11-28 804
iRMB倒置残差块是一种高效的卷积模块，主要用于提高模型的表达能力和计算效率。它结合了倒置残差块和注意力机制，使得模型能够更好地关注关键区域并减少计算量。倒置残差块（Inverted Residual Block）：通过深度可分离卷积减少计算复杂度，同时保持较高的特征表达能力。注意力机制：通过权重调整，帮助模型关注图像中的重要区域，从而提高检测精度。
YOLOv5改进 | 注意力篇 | iRMB倒置残差块注意力机制（轻量化注意力机制，附二次创新）
Snu77的博客
01-08 2163
本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO(后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制)。其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合(有点类似ACmix)我将iRMB和C2f结合，然后也将其用在了检测头种进行尝试三种结果进行对比，针对的作用也不相同，但是无论那种实验均有一定涨点效果。
YOLOv11改进 | 添加注意力机制 | 轻量化iRMB倒置残差块注意力机制（含二次创新C3k2、C2PSA）
m0_64858060的博客
03-02 2366
YOLOv11改进 | 添加注意力机制 | 轻量化iRMB倒置残差块注意力机制（含二次创新C3k2、C2PSA）
YOLO11改进|注意力机制篇|引入反向残差移动快iRMB
A1983Z的博客
10-07 1931
YOLO11中添加反向残差移动块iRMB
YOLOv11改进 | 添加注意力机制 | iRMB与EMA结合（二次创新）
m0_64858060的博客
03-03 1078
YOLOv11改进 | 添加注意力机制 | iRMB与EMA结合（二次创新）
MobileNetV2 Inverted Residuals and Linear Bottlenecks（MobileNetV2倒残差和线性瓶颈）学习笔记
qq_46539177的博客
02-23 664
神经网络已经彻底改变了机器智能的许多领域，使具有挑战性的图像识别任务具有超人的准确性。然而，提高准确性的动力往往是有代价的:现代最先进的网络需要高计算资源，超出了许多移动和嵌入式应用程序的能力。本文介绍了一种新的神经网络体系结构，它专门为移动和资源受限的环境量身定制。我们的网络通过显著减少所需的操作数量和内存，同时保持相同的精度，推动了移动定制计算机视觉模型的最先进水平。我们的主要贡献是一个新的层模块:带线性瓶颈的反向残差。该模块。
c2f_iRMB是iRMB模块搭配什么实现的
最新发布
05-20
### c2f_iRMB模块的具体实现 c2f_iRMB（Continuous-to-Fine Inverted Residual Mobile Block）是一种改进型的反向残差移动块，其核心目标在于通过简化结构和增强计算效率来适配轻量级模型需求。具体而言，该模块继承了传统iRMB的核心设计理念，同时进一步优化了内部操作流程以减少冗余计算[^2]。 其实现主要包括以下几个方面： 1. **深度可分离卷积的应用** c2f_iRMB利用深度可分离卷积替代传统的标准卷积，从而显著降低计算复杂度。这种设计使得模块能够在保持较高特征提取能力的同时大幅削减参数数量[^3]。 2. **扩展比λ的作用** 扩展比λ控制着输入通道数到中间层通道数的比例。较高的λ值能够增加感受野范围，但也会带来额外的计算负担；反之，则可能削弱特征表示能力。因此，在实际应用中需谨慎调整此超参数以找到最优平衡点[^2]。 3. **轻量化注意力机制集成** 为了提高局部与全局信息交互效果，c2f_iRMB集成了经过改良后的EW-MHSA（Efficient Window-based Multi-head Self Attention）。这一改动不仅提升了模型捕捉长距离依赖关系的能力，还维持了较低的时间消耗特性[^2]。 ```python import torch.nn as nn class C2FiRMB(nn.Module): def __init__(self, in_channels, out_channels, expand_ratio=6, kernel_size=3): super(C2FiRMB, self).__init__() hidden_dim = round(in_channels * expand_ratio) self.expand_conv = nn.Conv2d( in_channels=in_channels, out_channels=hidden_dim, kernel_size=1, stride=1, padding=0, bias=False ) self.depthwise_conv = nn.Conv2d( in_channels=hidden_dim, out_channels=hidden_dim, groups=hidden_dim, kernel_size=kernel_size, stride=1, padding=(kernel_size//2), bias=False ) self.project_conv = nn.Conv2d( in_channels=hidden_dim, out_channels=out_channels, kernel_size=1, stride=1, padding=0, bias=False ) # 轻量化注意力机制 self.attention = EW_MHSA(hidden_dim) self.bn1 = nn.BatchNorm2d(hidden_dim) self.bn2 = nn.BatchNorm2d(out_channels) self.relu = nn.ReLU(inplace=True) def forward(self, x): residual = x x = self.expand_conv(x) x = self.bn1(x) x = self.relu(x) x = self.depthwise_conv(x) x = self.bn1(x) x = self.relu(x) x = self.attention(x) # 集成轻量化注意力机制 x = self.project_conv(x) x = self.bn2(x) if residual.size() == x.size(): x += residual return x ``` --- ### iRMB模块的最佳搭配方案 针对不同应用场景下的性能需求，iRMB模块可以通过与其他特定组件相结合形成更优的整体框架。以下是几种推荐的搭配组合及其适用场景分析： #### 1. **与Deformable LKA Module联用** 当任务涉及高分辨率图像处理或需要精细边缘检测时，将iRMB与可变形大卷积核注意力模块（Deformable LKA Module）联合部署能取得良好成效。这种方式既能充分利用前者快速收敛的优点，又能借助后者强大的上下文建模能力改善最终输出质量[^1]。 #### 2. **嵌入ASPP+结构作为编码器部分** 对于语义分割领域内的挑战性问题，比如多尺度对象识别困难等情况，可以在网络前端引入带有空洞空间金字塔池化的版本——即ASPP+(Atrous Spatial Pyramid Pooling Plus)—并与多个堆叠起来的iRMB单元相连接构成完整的编码路径[^4]。 #### 3. **配合轻量化解码器完成端到端训练** 最后一步则是选用适合当前硬件条件限制的解码架构，例如Unet-like或者PSPNet-derived形式，并确保整个流水线均围绕低功耗原则展开设计。如此一来便可以从头至尾贯彻简约而不失效能的理念[^3]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YOLO大师

你的打赏，我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值