YOLOv8改进 | 添加注意力篇 | 2024最新的空间和通道协同注意力模块SCSA改进yolov8有校涨点（含二次创新C2f）

最新推荐文章于 2025-01-06 18:43:32 发布
最新推荐文章于 2025-01-06 18:43:32 发布
阅读量6.6k 收藏 25
点赞数 30
分类专栏： YOLOv8有效涨点专栏 文章标签： YOLO 目标检测 深度学习 计算机视觉 人工智能 python YOLOv8
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/143428806
版权

一、本文介绍

本文给大家带来的改进机制是2024最新的空间和通道协同注意力模块（Spatial and Channel Synergistic Attention）SCSA，其通过结合空间注意力（Spatial Attention）和通道注意力（Channel Attention），提出了一种新的协同注意力模块SCSA。SCSA的设计由两个主要部分组成：共享多语义空间注意力（SMSA）和渐进通道自注意力（PCSA）| 个人感觉类似于CBAM，SCSA机制旨在有效地结合通道和空间注意力的优势，充分利用多语义信息，从而提高视觉任务的表现，在本文中我提供其四个使用的方法，包括二次创新C2f两种。

欢迎大家订阅我的专栏一起学习YOLO！      

专栏目录：YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制 

目录

一、本文介绍

二、基本原理 

三、核心代码 

四、添加教程

  4.1 修改一

4.2 修改二 

4.3 修改三 

4.4 修改四 

五、正式训练

5.1 yaml文件1

5.2 yaml文件2

5.3 yaml文件3

5.4 yaml文件4

了解本专栏 订阅专栏 解锁全文
YOLOv11改进策略【注意力机制篇】| 2024 SCSA-CBAM 空间和通道的协同注意模块
Limiiiing的博客
10-11 2133
本文记录的是基于SCSA-CBAM注意力模块的YOLOv11目标检测改进方法研究。现有注意力方法在空间-通道协同方面未充分挖掘其潜力，缺乏对多语义信息的充分利用来引导特征和缓解语义差异。构建一个空间-通道协同机制，
YOLOv8独家改进：注意力独家魔改 | 一种新的空间和通道协同注意模块(SCSA)，充分挖掘通道和空间注意之间的协同作用 | 2024年7月最新成果
07-12 2522
提出了一种新的空间和通道协同注意模块(SCSA)，由两部分组成:可共享的多语义空间注意(SMSA)和渐进式信道自注意(PCSA)
RT-DETR算法改进：更换损失函数XIoU损失函数，相比较CIoU改进涨点，YOLO改进Trick，提升网络模型性能、收敛速度和鲁棒性，提升RT-DETR检测精度
包括YOLOv5、YOLOv7、YOLOv8等模型改进
11-20 964
RT-DETR算法改进 | 更换损失函数XIoU损失函数
YOLOv9改进策略【注意力机制篇】| 2024 SCSA-CBAM 空间和通道的协同注意模块
Limiiiing的博客
09-20 1148
本文记录的是基于SCSA-CBAM注意力模块的YOLOv9目标检测改进方法研究。现有注意力方法在空间-通道协同方面未充分挖掘其潜力，缺乏对多语义信息的充分利用来引导特征和缓解语义差异。构建一个空间-通道协同机制，
YOLO/RtDETR改进创新
llz19670的博客
07-22 759
随着Mamba在序列建模上的效果，Mamba进入到了视觉任务，在视觉任务中主要是采用双向的SSM结构，在YOLO或者是RTDETR中有一个C2F结构，在yolov10中修改成了C2f-CIB结构，这里的创新是将CIB替换了原先的Bottleneck块，同样的我们做的一个工作是使用Mamba2中的SSD模块替换CIB从而将C2fCIB改为了我们的C2f-SSD模块。
【转载arXiv 2024】空间和通道协同注意力SCSA，即插即用，分类、检测、分割涨点！
wuling129的专栏
10-30 6348
实验结果显示，SCSA在不同检测器和模型大小上均优于其他最先进的注意力机制，例如在Faster R-CNN上，使用ResNet-50时，SCSA的平均精度（AP）提高了1.7%，使用ResNet-101时提高了1.3%。在视觉任务中，注意力机制通过增强表示学习，促进了更具区分性的特征学习，并广泛用于重新分配通道关系和空间依赖性。鉴于现有方法在处理复杂场景时的局限性，本文试图探索空间和通道注意力之间的协同效应，以期提出一种新的注意力机制，该机制能够更好地利用多语义信息，提高模型在各种视觉任务中的表现。
YOLOv5改进 | 添加注意力篇 | 2024最新的空间和通道协同注意力模块SCSA改进yolov5有校涨点（含二次创新C3）
Snu77的博客
11-03 1071
本文给大家带来的改进机制是2024最新的空间和通道协同注意力模块（Spatial and Channel Synergistic Attention）SCSA，其通过结合空间注意力（Spatial Attention）和通道注意力（Channel Attention），提出了一种新的协同注意力模块SCSA。SCSA的设计由两个主要部分组成：共享多语义空间注意力（SMSA）和渐进通道自注意力（PCSA）| 个人感觉类似于CBAM，SCSA机制旨在有效地结合通道和空间注意力的优势，充分利用多语义信息，从而提高视
YOLOv10改进 | 添加注意力篇 | 2024最新的空间和通道协同注意力模块SCSA改进yolov10有校涨点（含二次创新PSA机制）
Snu77的博客
11-03 1278
本文给大家带来的改进机制是2024最新的空间和通道协同注意力模块（Spatial and Channel Synergistic Attention）SCSA，其通过结合空间注意力（Spatial Attention）和通道注意力（Channel Attention），提出了一种新的协同注意力模块SCSA。SCSA的设计由两个主要部分组成：共享多语义空间注意力（SMSA）和渐进通道自注意力（PCSA）| 个人感觉类似于CBAM，SCSA机制旨在有效地结合通道和空间注意力的优势，充分利用多语义信息，从而提高视
YOLOv9改进 | 添加注意力篇 | 2024最新的空间和通道协同注意力模块SCSA改进yolov9有效涨点
Snu77的博客
11-03 996
本文给大家带来的改进机制是2024最新的空间和通道协同注意力模块（Spatial and Channel Synergistic Attention）SCSA，其通过结合空间注意力（Spatial Attention）和通道注意力（Channel Attention），提出了一种新的协同注意力模块SCSA。
YOLOv11改进 | 添加注意力机制篇 | 2024最新空间和通道协同注意力SCSA改进yolov11有效涨点（含二次创新C2PSA机制）
Snu77的博客
11-05 2634
本文给大家带来的改进机制是2024最新的空间和通道协同注意力模块（Spatial and Channel Synergistic Attention）SCSA，其通过结合空间注意力（Spatial Attention）和通道注意力（Channel Attention），提出了一种新的协同注意力模块SCSA。SCSA的设计由两个主要部分组成：共享多语义空间注意力（SMSA）和渐进通道自注意力（PCSA）| 个人感觉类似于CBAM，SCSA机制旨在有效地结合通道和空间注意力的优势，充分利用多语义信息，从而提高视
【RT-DETR有效改进】轻量级下采样方法ContextGuided（参数量下降700W，轻量又涨点）
Snu77的博客
02-06 6083
本文给大家带来的是改进机制是一种替换Conv的模块，其是在CGNet论文中提出的一种模块，其基本原理是模拟人类视觉系统依赖上下文信息来理解场景。CG block 用于捕获局部特征、周围上下文和全局上下文，并将这些信息融合起来以提高准确性。本文改进是基于ResNet18、ResNet34、ResNet50、ResNet101，文章中均以提供，本专栏的改进内容全网独一份深度改进RT-DETR非那种无效Neck部分改进，同时本文的改进也支持主干上的即插即用，本文内容也支持PP-HGNetV2版本的修改。
【RT-DETR有效改进】结合SOTA思想利用双主干网络改进RT-DETR（全网独家创新，重磅更新）
Snu77的博客
03-04 7589
本文给大家带来的改进机制是结合目前SOTAYOLOv9的思想利用双主干网络来改进YOLOv8（本专栏目前发布以来改进最大的内容，同时本文内容为我个人一手整理全网独家首发 | 就连V9官方不支持的模型宽度和深度修改我都均已提供，本文内容支持RT-DETR全系列模型均可使用，本文的内容超级适合想要发表论文的读者创新性不够，工作量不够的，本文的改进在感官上给人就有一种工作量多和创新点十足的感觉，同时本专栏内容以后均采用NEU-DET数据集进行对比实验模型（避免大家质疑数据集质量的问题），本文内容为独家整理！。
RT-DETR改进|爆改模型|涨点|使用VMamba作为骨干网络（附代码+修改教程）
m0_51665349的博客
10-09 5046
本文修改的模型是RT-DETR，在原本的RT-DETR中，使用ResNet作为骨干网络，本文使用最新的VMamba（Visual State Space Model）替换ResNet作为RT-DETR的骨干网络。VMamba是一种全新的视觉框架，VMamba结合了CNNs和ViTs的优势，同时优化了计算效率，能够在保持全局感受野的情况下实现线性复杂度。
【RT-DETR有效改进】InnerIoU思想结合传统 EIoU、SIoU、WIoU损失思想（小目标涨点效果明显）
Snu77的博客
11-28 3943
本文给大家带来的是RT-DETR最新改进，为大家带来最近新提出的InnerIoU的内容同时用Inner的思想结合SIoU、WIoU、GIoU、DIoU、EIOU、CIoU等损失函数，形成 InnerIoU、InnerSIoU、InnerWIoU、等新版本损失函数，同时还结合了AIpha思想，形成的新的损失函数，其中Inner的主要思想是：引入了不同尺度的辅助边界框来计算损失，(该方法在处理非常小目标的检测任务时表现出良好的性能(但是在其它的尺度检测时也要比普通的损失要好)。
【RT-DETR有效改进】轻量级视觉变换器RepViT改进特征提取网络（轻量化网络）
Snu77的博客
01-17 3044
本位给大家带来的改进机制是RepViT。它是一种最新发布的网络结构，把轻量级的视觉变换器（就是ViT）的设计理念融入到了我们常用的轻量级卷积神经网络（CNN）里。我尝试把它用在RT-DETR的主干网络上，效果还不错，mAP有一定的提高。我用的是这个网络中最轻量级的版本。我将其用于在我的数据上实验（包含多个类别其中包含大中小多个目标类别），无论哪种目标，精度均有所提升。接下来，我会展示一下原始版本和我改进后版本在训练上的对比图。之后会在文章中介绍该网络结构，然后教大家如何修改该网络结构。
YOLOv11改进 | 注意力篇 | YOLOv11引入24年空间和通道协同注意模块(SCSA)，并构建C2PSA_SCSA
tsg6698的博客
01-06 1577
1.SCSA介绍1.1 摘要：通道关注和空间关注分别为各种下游视觉任务的特征依赖和空间结构关系提取带来了显著的改进。通道和空间注意力的结合使用被广泛认为有利于进一步提高性能，然而，通道和空间注意力之间的协同效应，特别是在空间指导和减轻语义差异方面，尚未得到深入研究。这促使我们提出了一个新的空间和通道协同注意模块（SCSA），需要我们的调查在多个语义层次上的空间和通道的注意力之间的协同关系。我们的SCSA由两部分组成：可共享多语义空间注意力（SMSA）和渐进通道自我注意力（PCSA）。
【RT-DETR有效改进】Best Paper | DAttention (DAT)可变形注意力机制和动态采样点
Snu77的博客
02-22 4068
本文给大家带来的是YOLOv8改进的教程，其发布于2022年CVPR2022上同时被评选为Best Paper由此可以证明其是一种十分有效的改进机制，其主要的核心思想是引入可变形注意力机制和动态采样点(听着是不是和可变形动态卷积DCN挺相似)。本文的讲解主要包含三方面：DAT的网络结构思想、DAttention的代码复现，如何添加DAttention到你的结构中实现涨点，本文改进是基于ResNet18、ResNet34、ResNet50、ResNet101，文章中均以提供，
RT-DETR算法改进：超多种主干网络改进，包括CNN和Transformer多种核心网络结构
包括YOLOv5、YOLOv7、YOLOv8等模型改进
11-13 1077
RT-DETR算法改进｜超多种Backbone、CNN和Transformer核心网络结构合集
SCSA注意力机制的使用
Cv工程师的博客
07-21 3665
通道关注和空间关注分别在提取各种下游视觉任务的特征依赖关系和空间结构关系方面带来了显著的改进。它们的结合更有利于发挥各自的优势，但通道和空间注意之间的协同作用尚未得到充分挖掘，缺乏充分利用多语义信息的协同潜力来进行特征引导和缓解语义差异。本研究试图在多个语义层面揭示空间和通道注意之间的协同关系，提出了一个新的空间和通道协同注意模块(SCSA)。
resnet scsa注意力机制
最新发布
02-18
### ResNet结合SCSA注意力机制的实现方式 #### SCSA模块概述 SCSA（Spatial and Channel Synergistic Attention）旨在探索空间和通道注意力之间的协同效应。该模块通过融合空间维度上的特征图以及不同通道间的依赖关系来增强模型的表现力[^1]。 #### 实现细节 为了将SCSA集成到ResNet架构中，可以在每个残差单元内部引入此注意层。具体来说： - **输入处理**：接收来自前一层的标准卷积输出； - **并行分支设计**： - 创建两个独立路径分别用于计算空间级联响应与跨频道交互模式； - 对于空间部分采用轻量化操作如深度可分离卷积减少参数量；对于渠道则利用全局平均池化获取整体统计特性； - **多尺度建模**：考虑到图像内在结构可能存在多种比例尺变化情况，在上述基础上进一步加入金字塔形采样策略以捕捉更广泛范围内的上下文信息； - **最终融合**：经过各自变换后的两路信号再次汇聚并通过逐元素相乘完成强化表达式的构建过程。 ```python import torch.nn as nn class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) scale = torch.cat([avg_out, max_out], dim=1) scale = self.conv1(scale) return x * self.sigmoid(scale) class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=16): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False) self.relu1 = nn.ReLU() self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x)))) out = self.sigmoid(avg_out) return x * out class SCAModule(nn.Module): expansion = 4 def __init__(self, planes): super(SCAModule, self).__init__() self.spatial_attention = SpatialAttention() self.channel_attention = ChannelAttention(planes*self.expansion) def forward(self, x): residual = x spa_atten = self.spatial_attention(residual) cha_atten = self.channel_attention(spa_atten) out = spa_atten + cha_atten return out ``` #### 应用案例分析 在ImageNet-1K数据集上进行了广泛的实验验证，结果显示当把SCSA嵌入至预训练好的ResNet-50网络之后形成的新变体——命名为`SCSA-50`，不仅显著提升了分类准确性而且有效降低了过拟合风险。 此外，在目标检测领域也有成功实践。例如YOLOv8改进版本中也采用了类似的思路，通过对原有框架添加SCSA组件实现了性能优化[^2]。
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值