YOLOv11 改进 - 注意力机制 | Focused Linear Attention 聚焦线性注意力：增强特征聚焦与多样性，优化多尺度目标检测

魔改工程师

已于 2025-12-09 20:40:12 修改

阅读量884

点赞数 21

CC 4.0 BY-SA版权

分类专栏：最新YOLOv11改进专栏文章标签： YOLO 目标检测人工智能机器学习计算机视觉深度学习

于 2025-11-24 20:05:27 首次发布

本文链接：https://blog.youkuaiyun.com/yolochangeworld/article/details/155203921

最新YOLOv11改进专栏专栏收录该内容

165 篇文章 ¥99.90 ¥299.90

订阅专栏

部署运行你感兴趣的模型镜像

前言

本文介绍了Focused Linear Attention技术及其在YOLOv11中的集成。该技术旨在解决传统自注意力机制计算复杂的问题，通过引入映射函数提高焦点能力，利用秩恢复模块保持特征多样性，且具有线性复杂度。我们将Focused Linear Attention模块引入YOLOv11，在检测头部分的不同尺度特征图上应用该模块。通过实验训练改进后的模型，有望提升YOLOv11在目标检测任务中的性能。

文章目录： YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLOv11改进专栏

介绍

摘要

自注意力的二次计算复杂性在将Transformer模型应用于视觉任务时一直是一个持久的挑战。相比之下，线性注意力通过精心设计的映射函数来近似Softmax操作，提供了更高效的替代方案，其计算复杂性为线性。然而，目前的线性注意力方法要么遭受显著的性能下降，要么因映射函数引入了额外的计算开销。在本文中，我们提出了一种新颖的聚焦线性注意力模块，以实现高效率和高表现力。具体来说，我们首先从聚焦能力和特征多样性两个角度分析了线性注意力性能下降的因素。为克服这些限制，我们引入了一个简单但有效的映射函数和一个高效的秩恢复模块，以增强自注意力的表现力，同时保持低计算复杂性。大量实验表明，我们的线性注意力模块适用于各种先进的视觉Transformer，并在多个基准测试上实现了一致的性能提升。代码可在 https://github.com/LeapLabTHU/FLatten-Transformer 获取。