YOLOv11 改进 - 注意力机制 | LSKA大核分离卷积注意力：轻量级设计实现动态大感受野，优化小目标检测鲁棒性

前言

本文介绍了大可分卷积核注意力（LSKA）模块及其在YOLOv11中的结合应用。带有大卷积核注意力（LKA）模块的视觉注意网络（VAN）在深度卷积层使用大卷积核时，计算和内存占用会二次增长。LSKA将二维卷积核分解为串联的水平和垂直一维卷积核，解决了该问题。与LKA等模块相比，LSKA能在低计算复杂度和内存占用下达到相当性能，且更关注物体形状。我们将LSKA集成进YOLOv11，实验表明改进后的模型在多方面表现出色。

文章目录： YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLOv11改进专栏

介绍

摘要

配备大卷积核注意力（LKA）模块的视觉注意力网络（VAN）在多种视觉任务中展现出卓越性能，超越了视觉Transformer（ViTs）的表现。然而，LKA模块中的深度卷积层随着卷积核尺寸的增大，会导致计算复杂度与内存占用的二次增长。为解决此问题并实现在VAN注意力模块中使用超大卷积核的目标，本研究提出了一个名为LSKA的大可分卷积核注意力模块家族。LSKA通过将深度卷积层的二维卷积核分解为串联的水平与垂直一维卷积核，实现了对标准LKA设计的改进。这种分解策略使得无需额外模块即可在注意力模块中直接使用配备大卷积核的深度卷积层。实验验证表明，在VAN中部署的LSKA模块能够在显著降低计算复杂度与内存占用的同时，达到与标准LKA模块相当的性能水平。研究还发现，随着卷积核尺寸的增加，所提出的LSKA设计使VAN更加关注物体形状特征而非纹理信息。此外，我们在五种受损版本的ImageNet数据集上对VAN、ViTs以及最新ConvNeXt架构中的LKA和LSKA模块进行了系统性稳健性基准测试，这些数据集在先前研究中较少被探索。大量实验结果表明，随着卷积核尺寸的增大，所提出的VAN中LSKA模块显著降低了计算复杂度与内存占用，同时在目标识别、目标检测、语义分割及稳健性测试中表现优于ViTs和ConvNeXt，并与VAN中LKA模块保持相当性能。相关代码已公开于https://github.com/S