YOLOv8改进 - 注意力篇 - 引入ShuffleAttention注意力机制

浪子L

已于 2024-10-16 21:39:14 修改

阅读量1.9k

点赞数 24

分类专栏： YOLOv8分析与改进文章标签：深度学习机器学习 python 人工智能计算机视觉 YOLO 目标检测

于 2024-10-16 21:38:43 首次发布

本文链接：https://blog.youkuaiyun.com/2301_79619145/article/details/142930590

版权

一、本文介绍

作为入门性篇章，这里介绍了ShuffleAttention注意力在YOLOv8中的使用。包含ShuffleAttention原理分析，ShuffleAttention的代码、ShuffleAttention的使用方法、以及添加以后的yaml文件及运行记录。

二、ShuffleAttention原理分析

ShuffleAttention官方论文地址：文章

ShuffleAttention官方代码地址：官方代码

ShuffleAttention注意力机制：采用Shuffle单元有效地结合了两种类型的注意力机制。首先将通道维分组为多个子特征，然后再并行处理它们。然后，对于每个子特征，利用Shuffle Unit在空间和通道维度上描绘特征依赖性。之后，将所有子特征汇总在一起，并采用“channel shuffle”运算符来启用不同子特征之间的信息通信。

三、相关代码：

ShuffleAttention注意力的代码，如下。

class ShuffleAttention(nn.Module):

    def __init__(self, channel=512, reduction=16, G=8):
        super().__init__()
        self.G = G
        self.channel = channel
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.gn = nn.GroupNorm(channel // (2 * G), channel // (2 * G))
        self.cweight = Parameter(torch.zeros(1, channel // (2 * G), 1, 1))
        self.cbias = Parameter(torch.ones(1, channel // (2 * G