YOLOv8改进 | 注意力机制 | 添加HAttention(HAT）超分辨率重建助力小目标检测 (全网首发，超分辨率检测)

Snu77

已于 2024-03-11 07:35:30 修改

阅读量1w

点赞数 40

CC 4.0 BY-SA版权

分类专栏： YOLOv8有效涨点专栏文章标签： YOLO 人工智能深度学习 python 计算机视觉超分辨率重建目标检测

于 2023-12-20 23:02:26 首次发布

本文链接：https://blog.youkuaiyun.com/java1314777/article/details/135118883

YOLOv8有效涨点专栏专栏收录该内容

180 篇文章 ¥199.90 ¥299.90

订阅专栏

本文介绍了HAttention（混合注意力变换器）的原理和实现，这是一种结合通道注意力和自注意力的超分辨率重建方法。通过在YOLOv8目标检测模型中应用HAttention，能有效提升小目标检测的性能。文章包含HAttention的代码实现和训练过程，是深度学习和计算机视觉领域的最新研究进展。

一、本文介绍

本文给大家带来的改进机制是HAttention注意力机制，混合注意力变换器（HAT）的设计理念是通过融合通道注意力和自注意力机制来提升单图像超分辨率重建的性能。通道注意力关注于识别哪些通道更重要，而自注意力则关注于图像内部各个位置之间的关系。HAT利用这两种注意力机制，有效地整合了全局的像素信息，从而提供更为精确的结果(这个注意力机制挺复杂的光代码就700+行)，但是效果挺好的也是10月份最新的成果非常适合添加到大家自己的论文中。

推荐指数：⭐⭐⭐⭐⭐(最新的改进机制)

专栏目录：YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制

专栏回顾：YOLOv8改进系列专栏——本专栏持续复习各种顶会内容——科研必备

一、本文介绍

二、HAttention框架原理

2.1 混合注意力变换器（HAT）的引入

三、HAttention的核心代码

四、手把手教你添加HAttention机制

修改一

修改二

五、HAttention的yaml文件

5.1 HAttention的yaml文件一

5.2 HAttention的yaml文件二

5.3 推荐HAttention可添加的位置

5.4 HAttention的训练过程截图

五、本文总结

二、HAttention框架原理

官方论文地址：官方论文地址

官方代码地址：官方代码地址

这篇论文提出了一种新的混合注意力变换器

了解本专栏

42 条评论

m0_55934778 2025.02.06
博主好，添加模块后训练，我想将模型转为onnx格式，怎么查看添加后对应的模块变化呢

purples. 2025.01.25
博主，我直接使用群里的代码，但是报错： RuntimeError: Expected to have finished reduction in the prior iteration before starting a new one. This error indicates that your module has parameters that were not used in producing loss. You can enable unused parameter detection by passing the keyword argument `find_unused_parameters=True` to `torch.nn.parallel.DistributedDataParallel`, and by making sure all `forward` function outputs participate in calculating loss. If you already have done the above, then the distributed data parallel module wasn't able to locate the output tensors in the return value of your module's `forward` function. Please include the loss function and the structure of the return value of `forward` of your module when reporting this issue (e.g. list, dict, iterable). Parameter indices which did not receive grad for rank 1: 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 5
- purples.回复purples. 2025.01.25
  In addition, you can set the environment variable TORCH_DISTRIBUTED_DEBUG to either INFO or DETAIL to print out information about which particular parameters did not receive gradient on this rank as part of this error WARNING:torch.distributed.elastic.multiprocessing.api:Sending process 82018 closing signal SIGTERM ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: 1) local_rank: 1 (pid: 82019) of binary: /root/miniconda3/envs/kg_rag/bin/python Traceback (most recent call last): 请问为什么会报错，以及这个怎么解决啊

木月月。 2024.10.11
博主，检测和分割都能使用吗？
- Snu77回复木月月。 2024.10.11
  可以的.

H、915 2024.09.13
博主，可以出一个针对颗粒堆叠情况分割的吗，求求了[face]emoji:054.png[/face]
- Snu77回复H、915 2024.10.11
  好的.

m0_69298293 2024.07.25
导，这里的HAT怎么放在第一层，能出个放在neck后面的吗
- Snu77回复m0_69298293 2024.07.25
  这个不建议放在Neck里面他其实不算是一种注意力机制

你好我是阿苏勒 2024.06.04
我有点纳闷，这个能算是注意力机制吗，看代码应该是把整个HAT变换器给加进去了
- Snu77回复你好我是阿苏勒 2024.07.25
  不算.

你好我是阿苏勒 2024.04.23
我加在yolov8-obb的yaml文件里，训练的时候没看见这个HAT欸，这是为什么呐
- 你好我是阿苏勒回复Snu77 2024.04.23
  欧克刚刚发现问题了，model = YOLO('yolov8n-obb.yaml').load('yolov8n-obb.pt')
- Snu77回复你好我是阿苏勒 2024.04.23
  你制定了改的yaml文件路径了么

DQYanZhixuan 2024.04.08
大佬，还有另一个yaml吗
- Snu77回复DQYanZhixuan 2024.04.08
  目前就这一个这几天我会用这个结构创新一个检测头

一只胖橘 2024.03.26
博主，可以再出几个小目标涨点的吗？我的的数据集太难改了，好多方法都效果不好。
- overdose262回复Snu77 2025.11.06
  我也想要小目标检测的
- Dawn ^回复扶苏呀 2024.12.12
  同问[face]emoji:029.png[/face]
- 扶苏呀回复一只胖橘 2024.06.25
  同学你有没有比较好的小目标改进模块哇救救孩子吧[face]emoji:051.png[/face]
- Snu77回复一只胖橘 2024.03.26
  必须可以