Yolov7改进--添加注意力机制

最新推荐文章于 2024-10-19 13:10:04 发布
最新推荐文章于 2024-10-19 13:10:04 发布
阅读量2.2k 收藏 11
点赞数 1
CC 4.0 BY-SA版权
文章标签： YOLO 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/dong_qian/article/details/133711666
本文介绍了如何在YOLOV7模型中添加注意力机制，包括修改配置文件、理解基础概念（如通道数、卷积核大小和步长）以及参考GitHub上的代码实现。详细步骤涉及对C7_1、C7_2层的改造以增强模型性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

改进参考魔鬼导师：YOLOV7改进-添加注意力机制_哔哩哔哩_bilibili

视频教程：YOLOV7改进-添加注意力机制_哔哩哔哩_bilibili

GitHub改进项目地址：其中的cv_attentionGitHub - z1069614715/objectdetection_script: 一些关于目标检测的脚本的改进思路代码，详细请看readme.md

学习内容：

问：

涉及：

一些基本概念：通道数，卷积核大小，卷积步长：

一些基本概念_To-的博客-优快云博客  中进行解释

 根据视频--添加注意力机制的步骤：

1.打开Yolov7/cfg/training/yolov7.yaml 模型配置文件

   yolov7.yaml配置文件中存储这yolov7模型的一百多层卷积结构，通过代码注释和模型结构图搭配理解

# parameters
nc: 1  # number of classes
depth_multiple: 1.0  # model depth multiple
width_multiple: 1.0  # layer channel multiple

# anchors
anchors:
  - [12,16, 19,36, 40,28]  # P3/8
  - [36,75, 76,55, 72,146]  # P4/16
  - [142,110, 192,243, 459,401]  # P5/32

# yolov7 backbone
backbone:
  # [from, number, module, args]     分别表示： 输入，重复次数，名称，参数数组
  [[-1, 1, Conv, [32, 3, 1]],  # 0 ##CBS  
  
   [-1, 1, Conv, [64, 3, 2]],  # 1-P1/2 ##CBS      
   [-1, 1, Conv, [64, 3, 1]],  # ##CBS   实例：第一个-1表示以上一层的输出作为本层的输入，-1表示向前退一层，-2表示向前退两层，以此类推
   
   [-1, 1, Conv, [128, 3, 2]],  # 3-P2/4 ##CBS # 实例： 第二个1表示，该层操作一次
   [-1, 1, Conv, [64, 1, 1]],             # 实例： Conv表示该层操作的名称
   [-2, 1, Conv, [64, 1, 1]],   # [64, 1, 1]： 64表示输出特征图的通道数，来控制特征图的深度
   [-1, 1, Conv, [64, 3, 1]],   # [64, 3, 1]： 3表示卷积核大小，以3*3的卷积核对输入图像进行卷积，以提取图像特征
   [-1, 1, Conv, [64, 3, 1]],   # [64, 3, 1]： 1表示卷积步长，步长控制了每次卷积操作后特征图的大小变化
   [-1, 1, Conv, [64, 3, 1]],
   [-1, 1, Conv, [64, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [256, 1, 1]],  # 11  ##C7_1
         
   [-1, 1, MP, []],
   [-1, 1, Conv, [128, 1, 1]],
   [-3, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [128, 3, 2]],
   [[-1, -3], 1, Concat, [1]],  # 16-P3/8  ##MP-C3
   [-1, 1, Conv, [128, 1, 1]],
   [-2, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [512, 1, 1]],  # 24  ##C7_1 待插入点
         
   [-1, 1, MP, []],
   [-1, 1, Conv, [256, 1, 1]],
   [-3, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 2]],
   [[-1, -3], 1, Concat, [1]],  # 29-P4/16  ##MP-C3
   [-1, 1, Conv, [256, 1, 1]],
   [-2, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [1024, 1, 1]],  # 37  ##C7_1  待插入点
         
   [-1, 1, MP, []],
   [-1, 1, Conv, [512, 1, 1]],
   [-3, 1, Conv, [512, 1, 1]],
   [-1, 1, Conv, [512, 3, 2]],
   [[-1, -3], 1, Concat, [1]],  # 42-P5/32  ##MP-C3
   [-1, 1, Conv, [256, 1, 1]],
   [-2, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [1024, 1, 1]],  # 50  ##C7_1
  ]

# yolov7 head
head:
  [[-1, 1, SPPCSPC, [512]], # 51  ##SPPCSPC  待插入点
  
   [-1, 1, Conv, [256, 1, 1]],   ##CBS
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],  ##上采样
   [37, 1, Conv, [256, 1, 1]], # route backbone P4  ##CBS
   [[-1, -2], 1, Concat, [1]],
   
   [-1, 1, Conv, [256, 1, 1]],
   [-2, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [[-1, -2, -3, -4, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [256, 1, 1]], # 63  ##C7_2
   
   [-1, 1, Conv, [128, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [24, 1, Conv, [128, 1, 1]], # route backbone P3
   [[-1, -2], 1, Concat, [1]],
   
   [-1, 1, Conv, [128, 1, 1]],
   [-2, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [64, 3, 1]],
   [-1, 1, Conv, [64, 3, 1]],
   [-1, 1, Conv, [64, 3, 1]],
   [-1, 1, Conv, [64, 3, 1]],
   [[-1, -2, -3, -4, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [128, 1, 1]], # 75  ##C7_2
      
   [-1, 1, MP, []],
   [-1, 1, Conv, [128, 1, 1]],
   [-3, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [128, 3, 2]],
   [[-1, -3, 63], 1, Concat, [1]],
   
   [-1, 1, Conv, [256, 1, 1]],
   [-2, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [[-1, -2, -3, -4, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [256, 1, 1]], # 88   ##C7_2
      
   [-1, 1, MP, []],
   [-1, 1, Conv, [256, 1, 1]],
   [-3, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 2]],
   [[-1, -3, 51], 1, Concat, [1]],
   
   [-1, 1, Conv, [512, 1, 1]],
   [-2, 1, Conv, [512, 1, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [[-1, -2, -3, -4, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [512, 1, 1]], # 101  ##C7_2
   
   [75, 1, RepConv, [256, 3, 1]],
   [88, 1, RepConv, [512, 3, 1]],
   [101, 1, RepConv, [1024, 3, 1]],

   [[102,103,104], 1, IDetect, [nc, anchors]],   # Detect(P3, P4, P5)
  ]

相应的yolov7网络模型结构图：

在yolov7中的三个位置，如图所示：C7_1，C7_1，SPPCSPC后的三个特征层输出的位置添加注意力机制 = 等于对这三个模块用带有注意力机制的模块进行替换

在魔鬼老师的GitHub上找到要添加的注意力机制模块代码：GitHub - z1069614715/objectdetection_script: 一些关于目标检测的脚本的改进思路代码，详细请看readme.md

 

To-
关注
yolov7添加 SE 注意力机制
qq_53545309的博客
08-25 598
5，在common.py中添加 SPPCSPC_ATT。2，在common.py中添加。3，打开yolo.py。在yolo.py中添加。
改进YOLOv7系列：引入SimAM注意力机制
带你成为别人眼中的大佬！
06-03 3268
SimAM（Simple Attention Mechanism）是一种简单的注意力机制，它可以有效提升模型性能。SimAM的设计思路源于SENet，但不同于SENet的复杂结构，SimAM只使用了一个全局池化层和几个全连接层。具体来说，我们在YOLOv7的倒数第二个卷积层后面加上一个全局池化层，将卷积层的输出向量变为标量。其中，目标检测是一个重要的应用场景。YOLOv7是一个效果很好的目标检测模型，在许多任务和数据集上的表现都很优秀。总之，在目标检测任务中，注意力机制是一种非常有效的方法。
YOLOV7改进-添加注意力机制
m0_46700884的博客
07-05 5113
注意力机制一般加在backbone或者是PAN层。，配合yolov7.yaml的文件来结合看！1、在github主页中找到SE.py注意力模块。
b站B导的yoloV7版本添加注意力机制
weixin_46848251的博客
02-21 8638
yolov7增加注意力机制（b导版本）
YOLOV7改进--添加CBAM注意力机制
热门推荐
qq_43114108的博客
07-27 3万+
YOLOV7改进--添加CBAM注意力机制
yolov7添加注意力机制
毕竟是Shy哥
09-07 1945
yolov7结构图方法：直接在common里改，在相关的后面加上就行。
《YOLOv5改进 - 添加CA注意力机制 + 增加预测层 + 更换损失函数之GIoU》完整代码
02-02
综上所述，本项目通过引入CA注意力机制增强了YOLOv5的特征提取能力，新增的预测层提升了模型的预测性能，而GIoU损失函数则优化了模型的训练过程和检测效果。这些改进都是为了在目标检测任务中实现更高的精度和效率。...
YOLOv5改进---添加注意力机制之CA
linkaisi的博客
02-02 2937
在轻量级网络上的研究表明，通道注意力会给模型带来比较显著的性能提升，但是通道注意力通常会忽略对生成空间选择性注意力图非常重要的位置信息。因此，新加坡国立大学的Qibin Hou等人提出了一种为轻量级网络设计的新的注意力机制，该机制将位置信息嵌入到了通道注意力中，称为coordinate attention（简称CoordAttention，下文也称CA），该论文已被CVPR2021收录。
YOLOv8改进 - 注意力篇 - 引入SK网络注意力机制
浪子L的博客
09-26 1890
YOLOv8改进 - 注意力篇 - 引入SK网络注意力机制
YOLOv5改进---添加注意力机制之SE
linkaisi的博客
02-01 5375
这是。
YOLOv8改进 - 注意力篇 - 引入CAA注意力机制
浪子L的博客
10-19 4464
YOLOv8改进 - 注意力篇 - 引入CAA注意力机制
改进YOLOv5、YOLOv8系列：14.添加S2-MLPv2注意力机制
包括YOLOv5、YOLOv7、YOLOv8等模型改进
08-24 8710
目标检测科研Trick改进推荐 | 包括Backbone、Neck、Head、注意力机制、IoU损失函数、NMS、Loss计算方式、自注意力机制、数据增强部分、激活函数
yolov7+SE注意力机制（个人备忘录）
cyh20182808的博客
04-12 6105
在n = max(round(n * gd),1) if n＞1 else n这段最后加上Conv_ATT, SPPCSPC_ATT记得加逗号。在cfg文件夹的training文件夹下，复制yolov7.yaml到新建的yolov7att.yaml文件中。对models文件夹下的common.py文件进行修改，在前面导入SE。复制代码前40行，在models文件夹下新建SE.py文件，粘贴进去。那么下两张图相互对应，六个卷积，然后concat，然后一个卷积。然后找到SPPCSPC类。
YOLOv7系列增强：为YOLOv7引入CBAM注意力机制
QvisCs的博客
09-18 1048
为了在YOLOv7中进一步提升性能，我们决定引入CBAM（Convolutional Block Attention Module，卷积块注意力模块）注意力机制。最后，输出层负责预测目标的边界框和类别。CBAM注意力机制通过通道注意力和空间注意力有针对性地调整特征图，帮助模型更好地理解图像内容。CBAM注意力机制结合了通道注意力和空间注意力两种机制，能够帮助模型更好地理解图像中的特征，并提升准确性和鲁棒性。接下来，我们将详细介绍如何将CBAM注意力机制集成到YOLOv7中，并提供相应的源代码实现。
[YOLOv7/YOLOv5系列算法改进NO.1]添加SE注意力机制
m0_70388905的博客
06-20 1万+
前 沿：作为当前先进的深度学习目标检测算法YOLOv5，已经集合了大量的trick，但是在处理一些复杂背景问题的时候，还是容易出现错漏检的问题。此后的系列文章，将重点对YOLOv5的如何改进进行详细的介绍，目的是为了给那些搞科研的同学需要创新点或者搞工程项目的朋友需要达到更好的效果提供自己的微薄帮助和参考。解决问题：加入SE通道注意力机制，可以让网络更加关注待检测目标，提高检测效果添加方法：第一步：确定添加的位置，作为即插即用的注意力模块，可以添加到YOLOv5网络中的任何地方。...
改进YOLOv7系列：引入SimAM注意力机制（计算机视觉）
IpyVariable的博客
09-23 689
具体而言，对于每个特征图，我们计算其与其他特征图之间的相似性得分，并将相似性得分作为权重应用于特征图上的像素。这样，相似性得分高的特征图将获得更高的权重，从而增强其对目标的关注程度。在前向传播过程中，SimAM模块计算特征图之间的相似性得分，并通过相似性得分调整特征图的权重。然而，为了进一步提高YOLOv7的性能，我们可以引入一种新的注意力机制，称为SimAM（相似性自适应模块）。通过引入SimAM注意力机制，我们可以改进YOLOv7系列算法，使其在目标检测任务中获得更好的性能。
YOLOV7 添加 CBAM 注意力机制
weixin_41258131的博客
08-31 990
CBAM 注意力机制
【纯干货级教程】YOLOv7如何添加注意力机制？
2401_84870184的博客
08-14 2516
注意力机制（Attention Mechanism）是一种在机器学习和深度学习中广泛使用的方法，它用于模仿人类大脑如何聚焦于特定信息并忽略其他不相关信息。本文以YOLOv7为示例介绍如何添加注意力机制。
改进YOLOv7系列：为YOLOv7添加CBAM注意力机制
IbcVue的博客
09-19 1129
近年来，计算机视觉领域取得了长足的发展，其中物体检测一直是研究的重点。CBAM注意力机制是一种轻量级的注意力模块，可以自适应地调整网络的响应区域，从而提升特征表示的质量。通道注意力模块用于自适应地调整输入特征图的通道权重，而空间注意力模块则用于自适应地调整输入特征图的空间权重。总结起来，我们为YOLOv7添加了CBAM注意力机制，用于自适应地调整网络的响应区域，从而提升目标检测的性能。首先，在YOLOv7的网络结构中，我们需要在每个残差块（Residual Block）之后添加CBAM注意力模块。
改进yolov8n的注意力机制
最新发布
05-23
### 改进 YOLOv8n 模型中的注意力机制 #### 1. 现有注意力机制概述 目前主流的注意力机制包括但不限于 SE (Squeeze-and-Excitation)[^3]、CBAM (Convolutional Block Attention Module)[^4] 和 CA (Coordinate Attention)[^5]。这些方法通过调整通道权重或空间分布来增强模型对重要特征的关注能力。 对于 YOLOv8n 这样轻量化的模型，选择合适的注意力机制至关重要。CGAttention 是一种有效的改进方式[^2]，它能够捕捉多尺度特征并提高模型在复杂场景下的表现。 #### 2. CGAttention 的实现原理 CGAttention（级联群体注意力机制）主要分为两个部分：通道注意力和空间注意力。其核心思想在于通过对不同尺度的信息进行加权融合，从而提升网络的感受野和表达能力。以下是其实现的关键步骤： - **通道注意力模块**：计算全局平均池化和最大池化后的特征图，并通过全连接层生成通道权重。 - **空间注意力模块**：利用卷积操作捕获像素间的依赖关系，进一步强化局部区域的重要性。 这种设计使得 CGAttention 能够更好地适应目标检测任务中多样化的物体尺寸需求。 #### 3. 实现代码示例 以下是一个基于 PyTorch 的简化版 CGAttention 实现代码： ```python import torch import torch.nn as nn class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=16): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False) self.relu1 = nn.ReLU() self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x)))) out = avg_out + max_out return self.sigmoid(out) class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) x = torch.cat([avg_out, max_out], dim=1) x = self.conv1(x) return self.sigmoid(x) class CGAttention(nn.Module): def __init__(self, channel_in, reduction_ratio=16, kernel_size=7): super(CGAttention, self).__init__() self.channel_attention = ChannelAttention(channel_in, reduction_ratio) self.spatial_attention = SpatialAttention(kernel_size) def forward(self, x): ca_feature = self.channel_attention(x) * x sa_feature = self.spatial_attention(ca_feature) * ca_feature return sa_feature ``` 此代码定义了一个完整的 CGAttention 结构，可直接集成到 YOLOv8n 中替换默认的注意力组件。 #### 4. 替代方案探讨 除了 CGAttention 外，还可以尝试其他高效注意力机制作为替代选项： - **ECA (Efficient Channel Attention)**[^6]：相比 SE 更简洁高效，在保持性能的同时减少参数数量。 - **BoTNet (Bottleneck Transformers)**[^7]：结合 Transformer 思想重新设计 CNN 架构，适用于高分辨率输入的任务。 每种方法都有各自的优势与局限性，需根据具体应用场景灵活选用。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值