YOLOv11改进 | 注意力篇 | 引入iRMB注意力机制

最新推荐文章于 2025-04-15 21:10:56 发布
最新推荐文章于 2025-04-15 21:10:56 发布
阅读量208 收藏
点赞数
分类专栏： YOLOV11有效涨点专栏 文章标签： YOLO python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_55421331/article/details/143706846
版权

  1.介绍

1.1 摘要

摘要：本文重点关注开发现代、高效、轻量级的模型来进行密集预测，同时权衡参数、FLOP 和性能。 反向残差块（IRB）作为轻量级 CNN 的基础设施，但基于注意力的研究尚未认识到对应的部分。 这项工作从统一的角度重新思考高效IRB和Transformer有效组件的轻量级基础设施，将基于CNN的IRB扩展到基于注意力的模型，并抽象出一个残差元移动块（MMB）以进行轻量级模型设计。 遵循简单但有效的设计标准，我们推导了现代的反向残差移动块（iRMB），并构建了一个仅使用 iRMB 进行下游任务的 ResNetlike 高效模型（EMO）。 在 ImageNet-1K、COCO2017 和 ADE

了解本专栏 订阅专栏 解锁全文 超级会员免费看
YOLOv10改进 | 注意力篇 | YOLOv10引入iRMB
tsg6698的博客
06-20 589
在 ImageNet-1K、COCO2017 和 ADE20K 基准上进行的大量实验证明了我们的 EMO 相对于最先进方法的优越性，例如，EMO-1M/2M/5M 达到了 71.5、75.1 和 78.4 Top-1，超越了同等水平的 Top-1。这种组合方式有效地提高了模型的效率和性能。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
【YOLOv8改进-注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
03-12 7558
【YOLOv8改进-注意力机制】iRMB： 倒置残差移动块，即插即用的轻量注意力虽然倒置残差块（IRB） 我们将基于CNN的IRB扩展到基于注意力的模型，并提出了一种单残差元移动块（MMB）用于轻量级模型设计。
YOLOv11/10/8算法改进【NO.162】引入用于医学图像分割的高效多尺度卷积注意力
最新发布
m0_70388905的博客
04-15 614
跨领域创新，采用目标分割领域模块进行改进YOLO算法，进行创新。
论文解读——YOLOv11（目标检测）
qq_38220914的博客
03-05 2429
YOLOv11提供了多种型号和功能，以满足不同应用场景的需求。对象检测对象检测是YOLOv11的基本功能之一。在训练时，YOLOv11能够检测图像中的对象，并输出对象的边界框和类别信息。这一功能在自动驾驶、智能安防等领域具有广泛应用。图像分割图像分割是YOLOv11的另一个重要功能。与对象检测不同，图像分割不仅检测对象的边界框，还能够对图像中的对象进行像素级别的分割。这使得YOLOv11在医疗影像分析、工业制造等领域具有更高的应用价值。姿态检测姿态检测是YOLOv11的一个独特功能。
YOLOv11 论文阅读笔记
qq_62844104的博客
02-08 3576
YOLOv11 代表了 CV 领域的重大进步，提供了增强的性能和多功能性的引人注目的组合。] 等不同行业的宝贵工具。它的无缝集成能力和更高的效率使其成为寻求实施或升级其 CV 系统的企业的有吸引力的选择。总之，YOLOv11 融合了增强的特征提取、优化的性能和广泛的任务支持，使其成为解决研究和实际应用中复杂视觉识别挑战的强大解决方案。我们随后的分析将深入研究 YOLO11 的架构创新，包括其改进的主干和颈部结构，以及它在各种计算机视觉任务（如对象检测、实例分割和姿势估计）中的性能。
【论文速看】DL最新进展20241001-目标检测YOLOv11、CNN、人脸修复
qq_40734883的博客
10-01 3457
【论文速看】DL最新进展20241001-目标检测YOLOv11、CNN、人脸修复
YOLOv11改进 | 注意力篇 | YOLOv11引入MSCAAttention(MSCA）注意力机制与C2PSA_MSCAAttention
tsg6698的博客
10-05 808
每个分支使用两个近似于标准深度卷积的大核深度卷积分支，分别设置不同的核尺寸（7×7、11×11和21×21），这样的设计有助于提取多种尺度的特征。此外，通过采用深度卷积分支和strip convolution的结合，该模块在保持计算效率的同时提供了强大的特征提取能力。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv8改进 | 注意力机制 | 添加iRMB倒置残差块注意力机制（轻量化注意力机制）
Snu77的博客
01-01 6757
本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO(后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制)。其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合(有点类似ACmix)，我将iRMB和C2f结合，然后也将其用在了检测头种进行尝试三种结果进行对比，针对的作用也不相同，但是无论那种实验均有一定涨点效果。
YOLOv11改进 | 注意力篇 | YOLOv11引入iRMB注意力机制
tsg6698的博客
10-05 449
在 ImageNet-1K、COCO2017 和 ADE20K 基准上进行的大量实验证明了我们的 EMO 相对于最先进方法的优越性，例如，EMO-1M/2M/5M 达到了 71.5、75.1 和 78.4 Top-1，超越了同等水平的 Top-1。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv11改进 | 添加注意力机制 | 添加iRMB倒置残差块注意力机制（轻量化注意力机制）
Snu77的博客
10-21 2037
本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合有点类似ACmix)，我将iRMB和C2f结合，然后也将其用在了检测头种进行尝试三种结果进行对比，针对的作用也不相同，但是无论那种实验均有一定涨点效果。
YOLOv8改进 | 注意力篇 | YOLOv8引入iRMB
tsg6698的博客
09-04 348
在 ImageNet-1K、COCO2017 和 ADE20K 基准上进行的大量实验证明了我们的 EMO 相对于最先进方法的优越性，例如，EMO-1M/2M/5M 达到了 71.5、75.1 和 78.4 Top-1，超越了同等水平的 Top-1。这种组合方式有效地提高了模型的效率和性能。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv8改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv8改进 - 注意力篇 - 引入iRMB注意力机制
浪子L的博客
11-03 1467
YOLOv8改进 - 注意力篇 - 引入iRMB注意力机制
YOLO11论文 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】
kay_545
11-04 1927
yolo11，yolo11热力图，yolo11改进，yolo11论文
（内含即插即用代码）涨点神器！反向残差注意力模块 iRMB，《ICCV 2023 最新论文》
weixin_57111012的博客
11-15 2412
反向残差注意力模块 iRMB的即插即用代码
YOLOv5改进 | 注意力篇 | iRMB倒置残差块注意力机制（轻量化注意力机制，附二次创新）
Snu77的博客
01-08 2164
本文给家大家带来的改进机制是iRMB，其是在论文Rethinking Mobile Block for Efficient Attention-based Models种提出，论文提出了一个新的主干网络EMO(后面我也会教大家如何使用该主干，本文先教大家使用该文中提出的注意力机制)。其主要思想是将轻量级的CNN架构与基于注意力的模型结构相结合(有点类似ACmix)我将iRMB和C2f结合，然后也将其用在了检测头种进行尝试三种结果进行对比，针对的作用也不相同，但是无论那种实验均有一定涨点效果。
YOLO元年！目标检测最强模型YOLOV11发布，全网首发yolov11原理+实战+论文解读教程！通俗易懂，科研人连夜水一篇SCI论文！计算机视觉|CV
yyyyyybw的博客
10-21 5971
Ultralytics的创始人兼CEO Glenn Jocher宣布，，它代表了计算机视觉领域的一次质的飞跃。YOLOv11 是近期受到关注的目标检测模型。它在 YOLOv9 及 v10 的基础上进行了改进，YOLO11不仅仅是一次简单的升级,包括增强的特征提取、优化的训练方法等，参数量比 YOLOv8 少 22%，推理速度比 YOLOv10 快 2%。性能飞跃：在COCO数据集上，YOLO11m比YOLOv8m使用22%更少的参数，却实现了更高的平均精度（mAP）。
YOLO系列论文综述（从YOLOv1到YOLOv11）【第3篇：YOLOv1——YOLO的开山之作】
https://github.com/Donvink，专注于计算机视觉、目标检测、目标跟踪等方向
11-27 2059
本文详细介绍YOLOv1——YOLO的开山之作，包括网络架构、loss、优缺点等。
YOLOv11改进 | Neck篇 | YOLOv11引入Slim-Neck（轻量）
tsg6698的博客
10-01 2257
在标准的CNN架构中，随着网络深度的增加，空间信息逐步转化为通道信息，这一转换过程在每次特征图的空间压缩和通道扩展操作中往往伴随着语义信息的部分损失。GSConv通过其独特的设计，旨在在维持较低时间复杂度的同时，最大化地保留通道之间的潜在连接，从而减少信息的丢失。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv11改进有效涨点专栏，本专栏目前为新开的，后期我会根据各种前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv10 | 手把手教你利用yolov10训练自己数据集（含环境搭建、参数解析 、数据集查找、模型训练、推理、导出）
热门推荐
Snu77的博客
05-26 3万+
本文内含YOLOv10网络结构图 + 各个创新模块手撕结构图 + 训练教程 + 推理教程 + 参数解析 + 环境搭建 + 数据集获取等一些有关YOLOv10的内容！目录一、前言二、整体网络结构图三、空间-通道分离下采样3.1 SCDown介绍3.2 C2fUIB介绍3.3 PSA介绍四、环境搭建五、数据集获取六、模型获取七、模型训练7.1 训练的三种方式7.1.1 方式一7.1.2 方式二（推荐）7.1.3 方式三八、模型验证/测试九、模型推理十、模型输出官方论文地址点击此处即可跳转。
irmb注意力机制结合其他注意力机制
02-25
### IRMB注意力机制与其他注意力机制的结合 #### 结合方式 IRMB（Inverted Residual Multi-Branch）注意力机制可以与多种其他类型的注意力机制相结合，以增强模型的表现力和鲁棒性。具体来说： - **与Focused Linear Attention结合**：通过引入Focused Linear Attention中的映射函数来调整查询和键的方向，使注意力权重更加明显[^1]。这种组合可以在保留IRMB多分支优势的基础上进一步提高模型对重要特征的关注度。 - **与全局分支结合**：利用全局分支中提到的长距离特征依赖关系建模方法，可以帮助IRMB更好地理解和处理图像的整体结构信息[^2]。这种方式特别适用于需要理解场景整体布局的任务，比如目标检测或语义分割。 - **与MLCA结合**：由于MLCA同时考虑了通道、空间以及局部和全局的信息，将其与IRMB结合起来可以创建一个更为全面有效的特征提取框架[^3]。这样的架构不仅能够捕捉到细粒度的空间细节，还能有效地聚合不同尺度下的有用信号。 - **与D-LKA Attention结合**：借助于D-LKA的大卷积核特性，能够在不显著增加计算成本的情况下扩展IRMB的感受野范围[^4]。这对于那些要求较高分辨率输入的应用尤其有利，例如医学影像分析或是高精度地图绘制等领域。 ```python import torch.nn as nn class CombinedAttention(nn.Module): def __init__(self, irmb_module, other_attention_type='focused_linear'): super(CombinedAttention, self).__init__() # Initialize the base IRMB module self.irmb = irmb_module if other_attention_type == 'focused_linear': from yolov8.attention import FocusedLinearAttention self.other_attn = FocusedLinearAttention() elif other_attention_type == 'global_branch': from yolov10.attention import GlobalBranchAttention self.other_attn = GlobalBranchAttention() elif other_attention_type == 'mlca': from yolov10.attention import MLCA self.other_attn = MLCA() elif other_attention_type == 'd_lka': from yolov10.attention import DLKAAattention self.other_attn = DLKAAattention() def forward(self, x): out_irmb = self.irmb(x) out_other = self.other_attn(out_irmb) return out_other ``` #### 应用场景 上述几种结合方案广泛应用于计算机视觉领域内的多个方面，包括但不限于： - 图像分类：通过对不同类型注意力机制的有效融合，提升了对于复杂背景条件下物体识别的能力。 - 目标检测：增强了对小尺寸对象及其周围环境的理解，减少了误检率并提高了定位准确性。 - 语义/实例分割：改善了边界区域像素级别的预测质量，特别是在存在遮挡情况时表现优异。 - 视频动作识别：促进了时间维度上连续帧之间关联性的学习，有助于捕捉动态变化的动作模式。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值