YOLOv11涨点改进 | 独家创新-注意力改进篇 | ICML 2024 | YOLOv11引入SLAB简化线性注意力，轻量高效即插即用，适合各种目标检测、图像分类、图像分割任务高效涨点

最新推荐文章于 2025-11-24 17:01:47 发布
最新推荐文章于 2025-11-24 17:01:47 发布
阅读量55 收藏 1
点赞数 1
CC 4.0 BY-SA版权
分类专栏： YOLOv11全新有效创新改进+永久更新中 文章标签： YOLO 目标检测 小目标检测 图像分类 YOLOv11创新改进 实例分割 轻量SLA简化线性注意力
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_45972324/article/details/153927488

一、本文介绍

🔥本文给大家介绍利用SLAB模块通过简化线性注意力（SLA）和渐进式重新参数化批量归一化（PRepBN）改进YOLOv11，提高了计算效率和精度。SLA减少了计算复杂度，提升了推理速度，PRepBN则通过逐步替换LayerNorm为BatchNorm，降低了推理延迟。SLAB模块使YOLOv11在保持高精度的同时，提升了推理效率，适用于实时目标检测、图像分类、图像分割。

展示部分YOLOv11改进后的网络结构图、供小伙伴自己绘图参考：

🚀 创新改进结构图: yolov11n_C3k2_SLA.yaml

专栏改进目录：YOLOv11改进专栏包含卷积、主干网络、各种注意力机制、检测头、损失函数、Neck改进、小目标检测、二次创新模块、C2PSA/C3k2二次创新改进、全网独家创新等创新点改进

全新YOLOv11-发论文改进专栏链接：全新YOLOv11创新改进高效涨点+永久更新中（至少500+改进）+高效跑实验发论文

本文目录

一、本文介绍

二、SLAB 模块介绍

2.1 SLAB 模块结构图

2.2 SLAB 简化线性注意力的作用与原理

2.3 PRepBN渐进式重新参数化批量归一化模块

2.4 SLAB 模块的原理

三、完整核心代码

 四、手把手教你配置模块和修改tasks.py文件

1.首先在ultralytics/nn/newsAddmodules创建一个.py文件

2.在ultralytics/nn/newsAddmodules/__init__.py中引用

3.修改ultralytics\nn\tasks.py文件

五、创建涨点yaml配置文件

🚀 创新改进1: yolov11n_SLAttention.yaml

🚀 创新改进2: yolov11n_C3k2_SLA.yaml

六、正常运行

 

二、SLAB 模块介绍

摘要：transformer架构已成为自然语言处理和计算机视觉任务的基础架构。然而，高昂的计算成本使其在资源受限设备上的部署面临巨大挑战。本文针对高效transformer中的计算瓶颈模块——归一化层和注意力模块展开研究。虽然LayerNorm是transformer架构中的常用技术，但由于推理阶段需要进行统计计算，其计算效率并不理想。但若直接用更高效的批量归一化（BatchNorm）替代LayerNorm，往往会导致性能下降甚至训练崩溃。为解决这一问题，我们提出了一种名为PRepBN的新方法，通过逐步用重参数化批量归一化（BatchNorm）替代训练阶段的LayerNorm。此外，我们还开发了简化的线性注意力（SLA）模块，该模块结构简洁却能实现优异性能。大量图像分类和目标检测实验验证了本方法的有效性：例如，我们的SLAB-Swin模型在ImageNet-1K数据集上以16.2毫秒延迟获得83.6%的top-1准确率，比Flatten-Swin模型低2.4毫秒且准确率仅高

了解本专栏 订阅专栏 解锁全文
全新YOLOv11有效涨点改进专栏目录 | 本专栏持续更新500+篇内容 | 包含各种卷积、主干网络、各种注意力机制、检测头、损失函数、小目标检测改进、二次创新模块、独家创新等几百种创新点改进
Ai缝合怪、助力小伙伴高效发论文
08-12 902
YOLOv11专栏持续更新500+种创新改进方案，涵盖卷积优化、注意力机制、主干网络、Neck特征融合、检测头、小目标检测等核心模块。提供独家创新点组合方案、模型轻量化改进及最新Mamba架构融合技术，配套完整实验代码和训练参数解析。订阅用户可加入专属答疑群，获取一键运行项目支持。专栏包含YOLOv11网络结构详解、配置文件解读等入门必读内容，助力科研论文发表与模型性能提升。限时开放订阅通道，提供多种涨点改进方案组合，满足不同研究需求。
YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
10-11 4万+
如今各种网络模型更新迭代越来越快，计算机视觉相关的文章也越来越多，多到一些普通，通用的改进点无法达到发表的要求。本专栏正是解决这个问题！如何寻找创新点？为什么要使用这个模块？如何才能提升模型的精度？这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了，这已经省去了大部分时间，但是当我们使用这些新的模块去优化已有的模型，如何才能提升模型的精度，才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块，然后是进行大量的实验去排列组合以实现最终的精度提升，这无可厚非。
YOLOv10改进入门篇 | 手把手讲解改进模块如何实现高效涨点，以SimAM注意力模块为例
Limiiiing的博客
10-08 2247
本文记录的是基于SimAM注意力模块的YOLOv10目标检测方法研究。SimAM注意力模块通过优化能量函数来获得每个神经元的三维权重，而或增加计算复杂度。若是有轻量化需求的小伙伴，无参的注意力模块也许是一个不错的选择。
YOLOv13有效涨点改进专栏目录 | 本专栏持续更新500+篇内容 | 包含各种卷积、主干网络、各种注意力机制、检测头、损失函数、小目标检测改进、二次创新模块、独家创新等几百种创新点改进
Ai缝合怪、助力小伙伴高效发论文
08-12 1076
《YOLOv13改进专栏重磅更新》推出500+创新改进方案，涵盖卷积、主干网络、注意力机制、检测头等核心模块优化。专栏提供完整项目代码及答疑服务，包含YOLOv13网络结构解析、环境配置、模型训练全流程指导。内容分为八大模块：卷积优化、注意力机制、细节涨点、主干网络改进、特征融合、检测头优化、小目标检测及Mamba联合改进等，支持多种创新点组合应用，助力科研论文发表。现开放限时订阅，提供试读章节和详细技术解析。
YOLOv8改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
12-24 8695
1️⃣本专栏已更新150多种不同的改进方法，所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程，所有改进100%可直接运行。2️⃣所有改进点均为近三年顶会，顶刊提出的先进算法，将其融入到中，紧跟学术热点，适应不同的任务场景。3️⃣团队内发表数篇SCI论文，熟悉完整的发表流程，订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊，从入门到论文的各种答疑内容。4️⃣专栏内容会持续更新，最近更新时间：2024-12-24。项目介绍在大家购买专栏后，加入学
YOLOv12改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
03-10 1万+
1️⃣ 什么！不知道如何改进模型⁉️ 本专栏所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程，所有改进100%可直接运行，性价比极高。2️⃣ 找不到合适的模块⁉️ 所有改进点均为近三年顶会，顶刊提出的先进算法，将其融入到中，并进行二次创新，新颖度高，创新度高，能够适应不同的任务场景。3️⃣ 不确定自己改进的步骤、结果是否正确⁉️ 订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊，从入门到论文的各种答疑内容，非常适合新手。4️⃣ 团队内发表数篇SCI论
YOLOV11|YOLO12改进系列指南
qq_37706472的博客
10-18 11万+
YOLOV11V12改进系列指南，仅仅69.9包含YOLOV11V12模型改进方案、含有390+种改进的集合，且含有多种二次创新和原创改进！
手把手带你 YOLOv5/v7 添加注意力机制（并附上30多种顶会Attention原理图）2024/2/5更新
热门推荐
YOLOv8项目贡献者
04-27 20万+
YOLOv5/v7 添加注意力机制教程 2023/6/15更新🍀🍀🍀
YOLOv10改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
10-11 9215
如何寻找创新点？为什么要使用这个模块？如何才能提升模型的精度？这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了，这已经省去了大部分时间，但是当我们使用这些新的模块去优化已有的模型，如何才能提升模型的精度，才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块，然后是进行大量的实验去排列组合以实现最终的精度提升，这无可厚非。
全新RT-DETR 有效涨点改进目录 | 包含各种卷积、主干改进、各种注意力机制、Neck特征融合改进、损失函数、AIFI创新改进、独家创新、小目标检测、特殊场景检测等最全大论文及小论文必备创新改进点
Ai缝合怪、助力小伙伴高效发论文
09-11 815
《全新最全RT-DETR涨点改进专栏》提供500+种创新改进方案，涵盖卷积、注意力机制、主干网络等模块优化，适用于PCB检测、工业缺陷检测等场景。专栏包含顶会论文改进点、数据集增强方法、热力图可视化等实用功能，帮助科研人员快速提升模型性能。提供完整环境配置指南（Python3.10+Pytorch2.5.1）和训练教程，支持不同版本RT-DETR模型。定期更新涨点策略，配套QQ答疑群免费指导，适合从入门到发论文全流程需求，特别推荐给目标检测领域的研究生和工程师。
【跟我学YOLO】（3）训练 YOLO11 图像分割模型
youcans的博客
11-23 831
本文介绍了如何使用YOLOv11进行图像分割任务YOLOv11在COCO-seg数据集上预训练，提供了多个分割模型选项，支持实例分割任务输出对象掩码和类别标签。文章详细说明了安装步骤和模型选择建议，帮助用户快速上手YOLOv11图像分割应用。
第14篇 如何下载yolov8的训练源码与权重文件预训练模型文件
Txwtech
11-24 12
摘要：YOLOv8模型及权重文件获取方法：1)访问GitHub仓库https://github.com/ultralytics/ultralytics，点击Download ZIP下载代码；2)进入中文文档https://docs.ultralytics.com/zh/models/yolov8/，在"模型"部分下拉至中间位置即可下载各类预训练权重文件。
YOLOv8 与 YOLOv8-Seg 的区别
最新发布
m0_62681080的博客
11-24 137
YOLOv8与YOLOv8-Seg的核心区别在于任务类型：前者用于目标检测（输出矩形框），后者用于实例分割（输出像素级掩码）。检测模型适合简单定位任务，而分割模型能提供精确轮廓，适用于需要测量面积、自动抠图等场景。两者在标注方式（矩形框vs多边形）、模型结构（分割多出掩码头）和应用场景上都有显著差异。关键选择标准取决于是否需要像素级精度，如残皮识别、坏点检测等任务必须使用YOLOv8-Seg。
即插即用系列 | ICASSP 2025 CAF-YOLO 实战解析：ACFM & MSNN 模块详解
分享顶会顶刊论文即插即用模块
11-21 748
本文提出CAF-YOLO框架，用于解决生物医学图像中微小病变检测的精度问题。该模型基于YOLOv8，创新性地结合CNN与Transformer优势，设计了注意力与卷积融合模块（ACFM）实现全局与局部特征互补，以及多尺度神经网络（MSNN）增强跨尺度特征聚合。实验表明，该方法在微小目标检测任务上表现优异，超越了现有先进方法。该框架具有通用性，可应用于各类视觉任务中的特征增强。
YOLO 系列论文：核心思想与技术演进全解析
叫好与叫座虽然不是对立面，但想在同一个作品中达到双重效果很难。
11-24 484
定位精度：从“原始回归”→“锚框辅助回归”→“无锚框回归”，逐步降低模型学习难度；特征提取：从“简单卷积”→“残差网络”→“CSP/C2f”→“NAS自动设计”，持续提升特征提取效率；多尺度检测：从“单尺度”→“3尺度FPN”→“SPP+PAN”→“自适应注意力融合”，逐步优化小目标/大目标检测能力；工程化：从“无工具链”→“简单脚本”→“模块化PyTorch工具”→“一体化全任务库”，持续降低训练/部署门槛；性能目标。
目标检测与跟踪 （4）- 基于YOLOv8的工业仪器仪表智能读数与状态检测算法实
Techblog of HaoWANG
11-20 681
工业仪表检测面临人工巡检效率低、成本高等痛点。本文基于YOLOv8提出自动化解决方案，系统讲解从数据标注到模型部署的全流程。YOLOv8凭借多尺度检测优势和小目标识别能力，可有效应对工业场景中的仪表定位与分类。文章详细介绍数据增强策略、模型训练调优方法，并扩展仪表读数识别技术。最后探讨TensorRT加速等优化手段，为工业智能化转型提供实践指导。
YOLOv8 验证码识别：从数据标注到模型部署的完整实战教程
沉寂
11-23 104
本文将手把手教你如何使用 YOLOv8 训练一个高精度的验证码识别模型，涵盖数据标注、环境配置、模型训练、验证测试全流程。基于 RTX 4090 服务器实测，600 张训练图片即可达到 50%+ 准确率，是 OCR 和验证码识别入门的首选方案。
目标检测YOLO[04]:跑通最简单的YOLO模型训练
paopao_wu的专栏
11-24 16
本文介绍了YOLO模型训练的基础流程和关键要素。主要内容包括：1）训练流程概述，即通过数据集迭代训练模型；2）训练核心关注点：数据集准备、模型选择及训练参数设置；3）演示了最简单的YOLO训练实例代码；4）重点解析了数据集结构，包括训练集、验证集和测试集的划分；5）详细说明了YOLO数据集的目录结构和标签文件格式；6）介绍了标签可视化工具LabelImg的安装方法。文章通过具体代码示例和文件结构图解，帮助读者快速掌握YOLO模型训练的基本方法。
YOLO中骨干网络与检测头的关系
Lazy_Goat的博客
11-23 142
输入：骨干网络提取的高级语义特征处理：通过卷积层学习特征到类别的映射数学本质：计算特征向量与类别权重向量的相似度输出：每个位置的类别概率分布决策：基于概率选择最可能的类别关键理解骨干网络负责"看"图像并提取有意义的特征检测头负责"理解"这些特征并做出分类决策分类能力是通过学习特征与类别之间的统计关联获得的整个过程是端到端学习的，所有组件协同工作这种设计让网络能够自动发现对分类最有用的特征模式，而不是依赖人工设计的特征。
icml 2024 注意力机制
06-08
ICML (International Conference on Machine Learning) 是机器学习领域的重要会议，每年都会吸引众多研究者展示最新的研究成果。对于2024年的ICML，由于具体细节尚未公开，我们可以推测未来注意力机制可能会在会议上受到关注，因为注意力机制在深度学习中的作用日益显著，特别是在自然语言处理、计算机视觉和强化学习等领域。 注意力机制的核心是让模型能够聚焦于输入中的关键部分，而不是对整个序列进行均匀处理。在深度学习模型中，比如Transformer模型，自注意力层就是一种实现方式，它通过计算查询（Query）、键（Key）和值（Value）之间的相似度来分配不同的权重，从而动态地调整信息的处理。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值