YOLOv9改进策略 | 添加注意力篇 | Deformable-LKA(DLKA)可变形的大核注意力（附多个位置添加教程）

最新推荐文章于 2025-10-06 21:23:17 发布
最新推荐文章于 2025-10-06 21:23:17 发布
阅读量2.3k 收藏 39
点赞数 29
CC 4.0 BY-SA版权
分类专栏： YOLOv9有效涨点专栏 文章标签： 深度学习 计算机视觉 人工智能 YOLO yolov9 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/138171427
本文详细介绍了YOLOv9中引入的Deformable-LKA（可变形大核注意力）机制，通过结合大卷积核和可变形卷积，提升了对复杂视觉信息的处理能力，特别是对小目标和不规则形状目标的检测。通过在YOLOv9中添加D-LKA，实验表明模型的mAP提高了约0.8。文中还手把手教读者如何添加D-LKA，提供了核心代码和训练配置文件。

一、本文介绍

本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv5中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。我进行了简单的实验，这一改进显著提高了模型mAP(提高了大概0.8左右)。

 

​

专栏地址：YOLOv9有效涨点专栏-持续复现各种顶会内容-有效涨点-全网改进最全的专栏 

目录

一、本文介绍

二、Deformable-LKA机制原理

2.1 Deformable-LKA的基本原理

2.2 大卷积核

2.3 可变形卷积

2.4 2D和3D适应性

三、D-LKA的核心代码

四、手把手教你添加D-LKA

4.1 D-LKA添加步骤

4.1.1 修改一

4.1.2 修改二

4.1.3 修改三 

4.1.4 修改四

4.2 D-LKA的yaml文件和训练截图

4.2.1 D-LKA的yaml版本一(推荐)

4.2.2 D-LKA的yaml版本二

4.4 D-LKA的训练过程截图 

五、本文总结

二、Deformable-LKA机制原理

​​

​

论文地址：官方论文地址

代码地址：官方代码地址

了解本专栏 订阅专栏 解锁全文
YOLOv5改进 | 注意力篇 | Deformable-LKA(DLKA)可变形的大核注意力（附多个位置添加教程）
Snu77的博客
01-06 3211
本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv5中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。我进行了简单的实验，这一改进显著提高了模型mAP(提高了大概0.8左右)。Deformable-LKA，引入
【RT-DETR有效改进】可变形大核注意力 | Deformable-LKA适用于复杂背景或不同光照场景
Snu77的博客
02-20 2371
本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv8中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。本文改进是基于ResNet18、ResNet34、ResNet50、ResNet101，文章中均以提供，本专
2025年10月 | 注意力机制 | YOLOv11改进 | Deformable-LKA (DLKA) 二次改进提升多尺度、小目标与遮挡检测能力
最新发布
Dev7z的博客
10-06 2481
本篇文章将介绍一种突破性的改进机制——Deformable Large Kernel Attention (DLKA)，并深入探讨其如何与YOLOv11深度融合，进行二次创新改进，显著提升模型在复杂视觉任务中的检测性能。
VAN：Visual Attention Network
just
11-19 2273
虽然最初是为自然语言处理任务而设计的，但自注意机制最近已经席卷了各种计算机视觉领域。然而，图像的2D特性给在计算机视觉中应用自注意机制带来了三个挑战。（1） 将图像处理为1D序列忽略了它们的2D结构。（2） 二次复杂度对于高分辨率图像来说太昂贵了。（3） 它只捕捉空间适应性，而忽略了通道适应性。【视觉的注意力可以被分为四个类别： 通道注意力、空间注意力、时间注意力和分支注意力。】
YOLOv8改进 | 注意力机制 | 添加Deformable-LKA可变形大核注意力（涨点幅度超高）
热门推荐
Snu77的博客
12-05 1万+
本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv8中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。我进行了简单的实验，这一改进显著提高了模型mAP。Deformable-LKA的引入，提高了YOLOv8精度
YOLOv10改进 | 添加注意力机制 | 添加Deformable-LKA可变形大核注意力（涨点幅度超高）
Snu77的博客
07-13 1208
本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv10中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。我进行了简单的实验，这一改进显著提高了模型mAP(提高了大概0.8左右)。Deformable-LKA，引
YOLOv11改进 | 添加注意力机制 | 可变形大核注意力Deformable-LKA二次创新C2PSA机制助力yolov11改进
Snu77的博客
10-13 2663
本文给大家带来的改进内容是Deformable-LKA（可变形大核注意力）。Deformable-LKA结合了大卷积核的广阔感受野和可变形卷积的灵活性，有效地处理复杂的视觉信息。这一机制通过动态调整卷积核的形状和大小来适应不同的图像特征，提高了模型对目标形状和尺寸的适应性。在YOLOv10中，Deformable-LKA可以被用于提升对小目标和不规则形状目标的检测能力，特别是在复杂背景或不同光照条件下。我进行了简单的实验，这一改进显著提高了模型mAP(提高了大概0.08左右)。
YOLO11改进-注意力-引入Deformable Large Kernel Attention (DLKA) 解决多尺度、小目标、遮挡等问题
qq_64693987的博客
10-23 3752
Deformable Large Kernel Attention (DLKA) 是一种用于视觉任务的注意力机制，旨在提升模型在处理不同尺寸和形状对象时的灵活性和性能。DLKA 的设计灵感源自传统的注意力机制，但通过引入可变形核（deformable kernel）来增强对局部特征的适应能力。
改进YOLOv8注意力系列二：结合CBAM、Coordinate Attention、deformable_LKA_Attention可变形大核注意力
qq_44224801的博客
12-13 1688
改进YOLOv8注意力系列二：结合CBAM、Coordinate Attention、deformable_LKA_Attention可变形大核注意力
YOLOv9改进，YOLOv9添加GAM注意力机制
在职AI算法工程师，擅长计算机视觉，YOLO目标检测、分割等，擅长web、pyqt界面可视化，好内容持续更新中，来这里跟大家一起学习，共同进步
07-09 1301
全局注意力机制（GAM），通过减少信息减少和放大全局交互表示来提高深度神经网络的性能。引入了带有多层感知器的 3D 排列，用于通道注意力以及卷积空间注意力子模块，GAM注意机制理论详解可以参考链接:论文地址）
YOLOv9改进，YOLOv9添加NAM注意力机制并与RepNCSPELAN4结构融合
在职AI算法工程师，擅长计算机视觉，YOLO目标检测、分割等，擅长web、pyqt界面可视化，好内容持续更新中，来这里跟大家一起学习，共同进步
08-31 486
我们提出了NAM作为一种高效且轻量级的注意机制。我们采用了CBAM中的模块整合方法，并重新设计了通道和空间注意子模块。然后，在每个网络块的末端嵌入NAM模块。对于残差网络，它被嵌入到残差结构的末端。我们还对空间维度应用BN的缩放因子来衡量像素的重要性。我们称之为像素归一化。对应的空间注意子模块如图2。NAM的优势1.高效性：通过使用BN的缩放因子，我们能够高效地衡量通道和像素的重要性，而不会显著增加计算复杂度。2.轻量级：NAM模块结构简单且易于嵌入现有网络架构中。
【YOLOv8改进 - C2f融合】C2f融合D-LKA Attention：可变形大核注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-26 1342
【YOLOv8改进 - C2f融合】C2f融合D-LKA Attention：可变形大核注意力了解决这些挑战，我们引入了可变形大核注意力（D-LKA Attention）的概念，这是一种简化的注意力机制，采用大卷积核以充分利用体积上下文信息。该机制在类似于自注意力的感受野内运行，同时避免了计算开销。
YOLOv9改进策略【注意力机制篇】| 添加SE、CBAM、ECA、CA、Swin Transformer等注意力和多头注意力机制
Limiiiing的博客
08-22 2641
这篇文章带来一个经典注意力模块的汇总，虽然有些模块已经发布很久了，但后续的注意力模块也都是在此基础之上进行改进的，对于初学者来说还是有必要去学习了解一下，以加深对模块，模型的理解。
大核注意力Large Kernel Attention(LKA)
m0_46507285的博客
03-01 9434
这种分解方式也被叫做大核注意力(Large Kernel Attention)，即LKA。如上图所示，一个很大kernel size的卷积被分解成一个Depth-wise卷积+一个Depth-wise空洞卷积+一个1× \times× 1卷积。这样，就可以大大减少FLOPs和参数量。很有效地解决了小核卷积的local性。 class AttentionModule(nn.Module): def __init__(self, dim): super().__init__()...
(即插即用模块-Attention部分) 六十二、(2022) LKA 大核注意力
wei582636312的博客
05-02 726
自注意力机制在 NLP 领域取得了巨大成功，但其应用于计算机视觉任务时存在三个主要问题：将图像视为一维序列，忽略了其二维结构；计算复杂度为二次方，难以处理高分辨率图像；只考虑了空间维度上的适应性，忽略了通道维度上的适应性。而卷积操作虽然能够利用局部上下文信息，但缺乏适应性。：获取通道维度上的关系。通过上述分解，LKA 能够以较低的计算成本和参数数量捕获长距离关系，并生成注意力图，从而实现自适应调整输出。：获取长距离依赖关系、：获取局部结构信息、
YOLOv8改进 | 注意力机制 | 添加MLCA混合局部通道注意力（轻量化注意力机制）
Snu77的博客
01-03 9028
本文带来的改进机制是MLCA(Mixed local channel attention)翻译来就是混合局部通道注意力，它结合了局部和全局特征以及通道和空间特征的信息，根据文章的内容来看他是一个轻量化的注意力机制，能够在增加少量参数量的情况下从而大幅度的提高检测精度(论文中是如此描述的)，根据我的实验内容来看，该注意力机制确实参数量非常少，效果也算不错，而且官方的代码中提供了二次创新的思想和视频讲解非常推荐大家观看。推荐指数：⭐⭐⭐⭐⭐涨点效果：⭐⭐⭐⭐⭐。
大核注意力 LKA | Visual Attention Network
YOLOv8项目贡献者
04-28 2541
大核注意力 LKA
YOLOv9改进策略 | 添加注意力篇 | 高效的注意力改进策略EMAttention注意力机制（附多个可添加位置）
Snu77的博客
05-07 1700
本文给大家带来的改进机制是EMAttention注意力机制，它的重塑部分通道到批次维度，并将通道维度分组为多个子特征，以保留每个通道的信息并减少计算开销。EMA模块通过编码全局信息来重新校准每个并行分支中的通道权重，并通过跨维度交互来捕获像素级别的关系。本文首先给大家提供效果图(由基础版本未作任何修改和修改了本文的改进机制的效果对比图)，然后介绍其主要的原理，最后手把手教大家如何添加该注意力机制。YOLOv9有效涨点专栏-持续复现各种顶会内容-有效涨点-全网改进最全的专栏目录一、本文介绍。
YOLOv8改进 | 注意力机制 | 添加Deformable-LKA
03-12
### 将注意力机制与 Deformable-LKA 集成至 YOLOv8 #### 1. 注意力机制简介 注意力机制允许模型聚焦于输入数据的关键部分，从而提高特定任务的表现。对于目标检测而言，这有助于更好地捕捉物体边界和细节。 #### 2. Deformable-LKA 组件解析 Deformable-LKA 是一种结合了大卷积核的感受野优势与可变形卷积灵活性的新型注意力模块[^3]。它能够动态调整卷积操作的位置偏移量，使得网络可以灵活应对不同尺度的目标对象及其变化形态。 #### 3. 在 YOLOv8 中集成 Deformable-LKA 为了在 YOLOv8 上实现该功能，需按照如下方式修改架构： - **替换原有层**：将原有的标准卷积层替换成带有 Deformable-LKA 的版本。 - **位置选择**： - 对于 C2f 层次结构中的某些中间特征图应用此机制； - 或者是在最终预测头部之前加入额外的一层或多层含有 Deformable-LKA 的组件。 ```python from yolov8.models import * import torch.nn as nn class DeformConvWithLKA(nn.Module): def __init__(self, in_channels, out_channels, kernel_size=7, stride=1, padding=3): super().__init__() self.offset_conv = nn.Conv2d(in_channels, 2 * (kernel_size**2), kernel_size=kernel_size, stride=stride, padding=padding) self.deform_conv = ModulatedDeformConvPack( in_channels=in_channels, out_channels=out_channels, kernel_size=(kernel_size,kernel_size), stride=stride, padding=padding, dilation=1, deform_groups=1) def forward(self,x): offset=self.offset_conv(x).clamp(-max_offset,max_offset) output=self.deform_conv(x,offset) return output ``` 上述代码展示了如何创建一个基于 PyTorch 的 `ModulatedDeformConvPack` 来构建具有 LKA 功能的新类 `DeformConvWithLKA`[^4]。 #### 4. 训练配置调整 当引入新的组件后，可能还需要相应地调整超参数设置，比如学习率、批量大小等，以确保最佳收敛性和泛化能力。 #### 5. 性能评估 经过这些改动之后，应该使用合适的指标（如 mAP）来衡量改进前后系统的差异，并通过对比实验验证所做更改的有效性[^1]。
评论 8
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值