YOLOv10改进策略【注意力机制篇】| Large Separable Kernel Attention (LSKA) 大核可分离卷积注意力 二次创新PSA、C2fCIB

已于 2024-12-11 21:36:26 修改
阅读量1.3k 收藏 24
点赞数 34
分类专栏： YOLOv10改进专栏 文章标签： YOLO 深度学习 目标检测 计算机视觉
于 2024-11-04 13:30:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_42591591/article/details/143482144
版权

一、本文介绍

本文记录的是利用 LSKA 大核可分离卷积注意力模块优化YOLOv10的目标检测网络模型。LSKA 结合了大卷积核的广阔感受野和可分离卷积的高效性，不仅降低计算复杂度和内存占用，而且提高了模型对不同卷积核大小的适应性。本文将其应用到v10中，利用LSKA提高模型对不同尺度目标的检测能力。

专栏目录：YOLOv10改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

专栏地址：YOLOv10改进专栏——以发表论文的角度，快速准确的找到有效涨点的创新点！

文章目录

了解本专栏 订阅专栏 解锁全文
YOLOv10改进 | 注意力篇 | YOLOv10改进CBAM注意力机制
tsg6698的博客
06-11 8442
模块首先应用通道注意力，关注"重要的"特征，然后应用空间注意力，关注这些特征的"重要位置"。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~新建一个yolov10nCBAM.yaml文件后，在Backbone部分添加了CBAM注意力机制，大家可以在其他地方多尝试。在CBAM.py文件里添加给出的CBAM代码。模型结构打印，成功运行。
YOLOv10改进策略【Conv和Transformer】| 引入PoolFormerBlock模块，基于平均池化的Token混合器，通过聚合局部邻域特征实现信息交互
最新发布
Limiiiing的博客
04-24 76
本文记录的是基于PoolFormerBlock的YOLOv10模型改进方法研究。提出了创新的MetaFormer通用架构，通过极简单的池化操作实现Token混合，能以低参数和计算成本高效捕捉图像全局与局部特征。将应用到的骨干网络中，通过其分层结构和Token混合机制，实现精度与效率的平衡优化。MetaFormer Is Actually What You Need for Vision在计算机视觉领域，Transformer模型取得了显著成功，普遍认为其基于注意力的Token混合模块是性能的关键。然而，后续
YOLOv10全网最新创新点改进系列：融合GSConv+Slim Neck，双改进、双增强，替换特征融合层实现， 轻量化涨点改进策略，有效涨点神器！
B站 Ai学术叫叫兽的文案地
07-04 3814
YOLOv10全网最新创新点改进系列：融合GSConv+Slim Neck，双改进、双增强，替换特征融合层实现， 轻量化涨点改进策略，有效涨点神器！
YOLOv10全网最新创新点改进系列：YOLOv10融合SwinTransformer模块，分辨率每层变成一半，而通道数变成两倍,有效提升小目标检测效果！
B站 Ai学术叫叫兽的文案地
07-22 4506
YOLOv10全网最新创新点改进系列：YOLOv10融合SwinTransformer模块，分辨率每层变成一半，而通道数变成两倍,有效提升小目标检测效果！
LSKA（大可分离核注意力）：重新思考CNN大核注意力设计
m0_47867638的博客
10-23 2865
大型可分离核注意力（LSKA）模块的视觉注意力网络（VAN）已被证明在各种基于视觉的任务上提供了卓越的性能，超过了视觉转换器（ViTs）。然而，这些LSKA模块中的逐深度卷积层随着卷积核尺寸的增加，计算和内存占用呈二次增长。为了缓解这些问题，并使VAN的注意力模块能够使用极大的卷积核，我们提出了一种大型可分离核注意力模块，称为LSKA。LSKA将深度卷积层的2D卷积核分解为级联的水平1D和垂直1D内核。与标准LKA设计不同，提出的分解使得可以直接使用注意力模块中的深度卷积层的大内核，而不需要任何额外的块。
YOLOv10全网最新创新点改进系列：YOLOv10融合V-Focal Loss全面提升密集目标检测，针对目前样本不平衡问题的独特创新点，有效涨点！
B站 Ai学术叫叫兽的文案地
07-14 3435
YOLOv10全网最新创新点改进系列：YOLOv10融合V-Focal Loss全面提升密集目标检测，针对目前样本不平衡问题的独特创新点，有效涨点！
【YOLOv10改进-注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-29 1646
带有大卷积核注意力（LKA）模块的视觉注意网络（VAN）在一系列基于视觉的任务上表现出色，超越了视觉Transformer（ViTs）。然而，这些LKA模块中的深度卷积层随着卷积核尺寸的增加，会导致计算和内存占用的二次增长。为了解决这些问题并使在VAN的注意力模块中使用超大卷积核成为可能，我们提出了一种大可分卷积核注意力模块家族，称为LSKA。LSKA将深度卷积层的二维卷积核分解为串联的水平和垂直一维卷积核。
YOLOv11改进策略【注意力机制篇】| Large Separable Kernel Attention (LSKA) 大核可分离卷积注意力 二次创新C2PSA、C3k2
Limiiiing的博客
11-02 535
一、本文介绍 本文记录的是利用 LSKA 大核可分离卷积注意力模块优化YOLOv11的目标检测网络模型。LSKA 结合了大卷积核的广阔感受野和可分离卷积的高效性，不仅降低计算复杂度和内存占用，而且提高了模型对不同卷积核大小的适应性。本文将其应用到v11中，利用LSKA提高模型对不同尺度目标的检测能力。 专栏目录：YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进 专栏地址：YOLOv11改进专栏——以发表论文的角度，快速准确
【YOLOv11改进 - 注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
10-18 2503
【YOLOv11改进 - 注意力机制】LSKA(Large Separable Kernel Attention)：大核分离卷积注意力模块
YOLOv10改进 | 注意力篇 | YOLOv10引入Large Separable Kernel Attention(LSKA)注意力机制，并构建C2f_LSKA
tsg6698的博客
08-03 728
我们证明，建议的LSKA模块在货车可以实现与标准LKA模块相当的性能，并产生较低的计算复杂度和内存占用。此外，我们在货车，ViTs和最近的ConvNeXt中对LKA和LSKA的鲁棒性进行了基准测试，这些测试是在以前的工作中基本上未探索过的ImageNet数据集的五个损坏版本上进行的。我们广泛的实验结果表明，在货车中提出的LSKA模块提供了显着降低计算复杂性和内存占用的增加内核大小，同时优于ViTs，ConvNeXt，并提供类似的性能相比，在货车中的LKA模块的对象识别，对象检测，语义分割和鲁棒性测试。
YOLOv8最新改进系列：YOLOv8+RepLKNet，超大核模型，精度嘎嘎提升，小目标检测性能嘎嘎提升，提升效果拉满！！！
B站 Ai学术叫叫兽的文案地
09-11 3429
RepLKNet的作者受到了vision transformers (ViT) 最新进展的启发,提出了31×31的超大核模型，与小核 CNN 相比，大核 CNN 具有更大的有效感受野和更高的形状偏差而不是纹理偏差。借鉴 Swin Transformer 的宏观架构，提出了一种架构 RepLKNet。在 ImageNet 上获得 87.8% 的 top-1 准确率，在 ADE20K 上获得 56.0% mIoU，这在具有相似模型大小的最先进技术中非常具有竞争力。
YOLOv10全网最新创新点改进系列：YOLOv10改进加入新型高效的多尺度注意力（EMA）模块保留每个通道的信息并减少计算成本！助力v10检测性能遥遥领先！
B站 Ai学术叫叫兽的文案地
05-31 2218
YOLOv10全网最新创新点改进系列：YOLOv10改进加入新型高效的多尺度注意力（EMA）模块保留每个通道的信息并减少计算成本！助力v10检测性能遥遥领先！
YOLOV10主要特点和改进
xiao77224li的博客
06-09 1695
例如，YOLOv10-S的推理速度比RT-DETR-R18快1.8倍，同时保持了相似的精度。这种策略结合了一对多和一对一的标签分配，消除了在推理过程中对NMS的需求。YOLOv10是YOLO系列算法的最新版本，由清华大学的研究人员开发，它在实时目标检测领域实现了显著的性能提升。：YOLOv10的未来发展包括在速度和精度方面的进一步改进，与物联网的集成，以及开发可扩展的解决方案以实现大规模部署。：YOLOv10全面优化了模型的各个组件，从效率和精度的角度减少了计算冗余，提高了参数的利用效率。
YOLOv10来啦！真正实时端到端目标检测
CV_Autobot的博客
05-26 2058
点击下方卡片，关注“自动驾驶之心”公众号戳我->领取自动驾驶近15个方向学习路线>>点击进入→自动驾驶之心『目标检测』技术交流群论文作者|自动驾驶Daily编辑 | 自动驾驶之心过去几年里，YOLOs因在计算成本和检测性能之间实现有效平衡而成为实时目标检测领域的主流范式。研究人员针对YOLOs的结构设计、优化目标、数据增强策略等进行了深入探索，并取得了显著进展。然而，对非极...
YOLOv10改进系列 ---- Conv篇 ---- 2024.1月最新成果可变形卷积DCNv4（适用检测、Seg、分类、Pose、OBB）
m0_58941767的博客
02-18 3542
本文给大家带来的改进机制是2024-1月的最新成果DCNv4，其是DCNv3的升级版本，效果可以说是在目前的卷积中名列前茅了，同时该卷积具有轻量化的效果！一个DCNv4参数量下降越15Wparameters左右，。它主要通过两个方面对前一版本DCNv3进行改进：首先，它移除了空间聚合中的softmax归一化，这样做增强了其动态特性和表达能力；其次，它优化了内存访问过程，以减少冗余操作，从而加快处理速度。DCNv4的表现可以说是非常的全面，同时该网络为新发目前存在大量使用Bug我均已修复。
YOLOv8最新改进系列：YOLOv8华为提出Gold-YOLO，高效实时目标检测器，精度再提升，多目标、小目标无处遁形！
热门推荐
B站 Ai学术叫叫兽的文案地
10-12 1万+
YOLOv8华为提出Gold-YOLO，高效实时目标检测器，精度再提升，多目标、小目标无处遁形！
YOLOv10的技术提升与前沿改进方案设计
u010079117的博客
08-21 1219
随着YOLOv10的逐步研发和推进，通过在特征提取、特征融合、损失函数、模型压缩、数据增强等多个方面的改进，结合前沿的Transformer技术，YOLOv10有望在保持实时性的同时，进一步提升目标检测的精度和鲁棒性。- **BiFPN的应用**：可加权双向特征金字塔网络（BiFPN）允许特征在金字塔内进行多层次的双向流动，并通过加权机制动态调整每层特征的重要性，从而更有效地整合不同尺度的特征。- **神经架构搜索（NAS）技术的引入**：YOLOv10可以利用NAS技术自动搜索最佳的特征融合结构。
YOLOv10全网最新创新点改进系列：增强卷积神经网络特征图，输入特征本身的内容来指导上采样过程，从而实现更精准和高效的特征重建，促使YOLOv10有效涨点！
B站 Ai学术叫叫兽的文案地
06-25 1229
YOLOv10全网最新创新点改进系列：增强卷积神经网络特征图，输入特征本身的内容来指导上采样过程，从而实现更精准和高效的特征重建，促使YOLOv10有效涨点！
YOLOv10核心改进点解读
w_t_f的博客
05-29 1283
感觉清华的这个YOLOv10确实是在挤牙膏了，但是有针对性的优化并结合量化的分析结果，还是值得一篇论文的。
LSKa注意力机制
03-28
### LSKA注意力机制概述 LSKA（Large Separable Kernel Attention）是一种用于深度学习模型的大核分离卷积注意力模块。该模块通过引入可分离的大尺寸卷积核来有效捕获长距离依赖关系，同时保持较低的计算复杂度和内存消耗[^1]。这使其成为一种高效的注意力机制，在多种计算机视觉任务中表现优异。 #### 关键特性 LSKA的主要特点包括以下几个方面： - **高效捕获长距离依赖性**：通过大尺寸卷积核的设计，能够更好地捕捉全局特征信息。 - **低计算与内存需求**：尽管采用了较大的卷积核，但由于采用分离策略，整体计算量得以控制在合理范围内[^3]。 - **灵活性**：支持对空间维度和通道维度进行自适应调整，从而适配不同的网络架构和应用场景。 #### 实现方法 为了将LSKA集成到YOLO系列或其他深度学习框架中，可以按照以下方式完成其实现： ##### 文件结构调整 需创建一个新的目录`ultralytics/nn/attention`并在此路径下新增名为`LSKAttention.py`的Python脚本文件[^2]。此文件应包含完整的LSKA类定义及其初始化逻辑。 ##### Python代码示例 以下是基于PyTorch的一个简单版本的LSKA实现片段： ```python import torch import torch.nn as nn class LSKAttention(nn.Module): def __init__(self, channels, kernel_size=7): super(LSKAttention, self).__init__() self.conv = nn.Conv2d(channels, channels, kernel_size, padding=(kernel_size//2), groups=channels) def forward(self, x): u = x.clone() attn = torch.sigmoid(self.conv(x)) output = u * attn return output ``` 上述代码展示了如何利用分组卷积技术构建一个基础形式的LSKA层[^4]。其中，`torch.nn.Conv2d`函数被用来设置特定参数以满足大核分离的需求；而激活函数Sigmoid则负责生成权重图谱以便后续加权融合操作。 --- ### 应用场景分析 由于其卓越性能以及资源利用率优势，LSKA广泛应用于各类视觉处理领域之中，具体表现为但不限于以下几个方向： - 图像分类：提升模型对于细微差异类别间区分能力； - 目标检测：增强边界框预测精度及背景抑制效果； - 语义分割：改善像素级标注准确性及时效平衡问题解决思路。 这些应用均得益于LSKA所具备的强大表达能力和优化后的运行效率组合而成的独特价值主张。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Limiiiing

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值