YOLOv7改进：BoTNeT（Bottleneck Transformer）

BoTNeT：YOLOv7的改进版，融合Transformer于目标检测
最新推荐文章于 2025-06-18 08:09:47 发布
最新推荐文章于 2025-06-18 08:09:47 发布
阅读量1k 收藏 14
点赞数
CC 4.0 BY-SA版权
分类专栏： yolov5/7/8/9系列独家改进 YOLOv9/v10独家改进，每周持续更新 文章标签： 人工智能 深度学习 YOLO 计算机视觉 目标检测
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_45303602/article/details/133711225
本文介绍了如何将BoTNet应用于YOLOv7，通过将ResNet最后三个bottleneck模块的卷积替换为全局的Multi-Head Self-Attention（MHSA），在COCO上提高了目标检测精度1.2%，并在实例分割任务中对小物体检测有显著提升。文章详细阐述了BoTNet的设计原理和实现步骤，并指出其简洁性使其成为未来视觉任务研究的潜在backbone。

 目录

1.简介

2.YOLOv7改进：BoTNeT

2.1增加以下yolov7_botnet.yaml文件

 2.2 common.py配置

2.3 yolo.py配置修改

1.简介

论文地址 

 Paper

 

 

本文提出的BoTNet是一种简单高效的网络，有效的将SA应用到多种视觉任务，如图像识别、目标检测、实例分割任务。通过将ResNet50中最后三个bottleneck模块的空间卷积替换为全局的SA操作，有效提升了基线模型在签署任务上的性能。

Section I
常用的CNN大多采用3x3的卷积核，鉴于卷积操作可以有效的不糊哦局部信息，但是对于一些视觉任务如目标检测、实例分割、关键点检测还需要建立长程依赖关系。比如实例分割中需要收集场景相关的信息才能学习物体之间的关系；那么为了吧局部信息聚合就需要堆叠多个卷积层。但基于non-local操作可以更有效，也不需要堆叠那么多层。
而建模长程依赖对NLP任务也十分重要，Self-Attention可以有效学习每一对实体之间的关联，基于SA组成的Transformer已经成为NLP的主流，如GPT和BERT。


了解本专栏 订阅专栏 解锁全文
YOLOv7改进：CBAM注意力机制
weixin_45303602的博客
09-28 2887
CBAM注意力机制是由通道注意力机制（channel）和空间注意力机制（spatial）组成。 传统基于卷积神经网络的注意力机制更多的是关注对通道域的分析，局限于考虑特征图通道之间的作用关系。CBAM从 channel 和 spatial 两个作用域出发，引入空间注意力和通道注意力两个分析维度，实现从通道到空间的顺序注意力结构。空间注意力可使神经网络更加关注图像中对分类起决定作用的像素区域而忽略无关紧要的区域，通道注意力则用于处理特征图通道的分配关系，同时对两个维度进行注意力分配增强了注意力机制对模型性能
YOLOv7改进：RepVGG结构
weixin_45303602的博客
10-05 1650
我们所说的“VGG式”指的是：没有任何分支结构。即通常所说的plain或feed-forward架构。仅使用3x3卷积。仅使用ReLU作为激活函数。主要创新点为结构重。在训练时，网络的结构是多分支进行的，而在推理时则将分支的参数进行重参数化，合为一个分支来进行的，所以推理的速度要比多分支网络快很多，并且精度也比单分支的网络更高。
YOLOv7改进：结合CotNet Transformer结构
weixin_45303602的博客
09-30 954
京东AI研究院提出的一种新的注意力结构。将CoT Block代替了ResNet结构中的3x3卷积，在分类检测分割等任务效果都出类拔萃论文：Contextual Transformer Networks for Visual Recognition有自注意力的Transformer引发了自然语言处理领域的革命，最近还激发了Transformer式架构设计的出现，并在众多计算机视觉任务中取得了具有竞争力的结果。
YOLOV7改进-添加注意力机制
m0_46700884的博客
07-05 5258
注意力机制一般加在backbone或者是PAN层。，配合yolov7.yaml的文件来结合看！1、在github主页中找到SE.py注意力模块。
YOLOv7改进：CotNet Transformer
本人热爱计算机技术，欢迎爱好技术的朋友一起交流
12-02 1382
有自注意力的Transformer引发了自然语言处理领域的革命，最近还激发了Transformer式架构设计的出现，并在众多计算机视觉任务中取得了具有竞争力的结果。在今天分享的工作中，研究者设计了一个新颖的Transformer风格的模块，即Contextual Transformer (CoT)块，用于视觉识别。同样，当我们读一句话时，大脑也会首先记住重要的词汇，这样就可以把注意力机制应用到自然语言处理任务中，于是人们就通过借助人脑处理信息过载的方式，提出了Attention机制。
YOLOv5、YOLOv8改进：BoTNet Transformer
weixin_45303602的博客
08-30 2009
本文提出的BoTNet是一种简单高效的网络，有效的将SA应用到多种视觉任务，如图像识别、目标检测、实例分割任务。通过将ResNet50中最后三个bottleneck模块的空间卷积替换为全局的SA操作，有效提升了基线模型在签署任务上的性能。Section I常用的CNN大多采用3x3的卷积核，鉴于卷积操作可以有效的不糊哦局部信息，但是对于一些视觉任务如目标检测、实例分割、关键点检测还需要建立长程依赖关系。比如实例分割中需要收集场景相关的信息才能学习物体之间的关系；
【YOLOv8改进- Backbone主干】BoTNet：基于Transformer，结合自注意力机制和卷积神经网络的骨干网络
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-24 2747
我们提出了BoTNet，这是一种概念上简单但功能强大的骨干架构，结合了自注意力机制，用于图像分类、目标检测和实例分割等多个计算机视觉任务。通过仅在ResNet的最后三个瓶颈块中用全局自注意力替换空间卷积，并且没有其他更改，我们的方法显著提高了实例分割和目标检测的基线性能，同时减少了参数，且在延迟方面的开销极小。通过设计BoTNet，我们还指出带有自注意力的ResNet瓶颈块可以视为Transformer块。
YOLOv11 改进策略 | CVPR-2021 Bottleneck Transformers：简单且高效的自注意力模块
最新发布
走向CTO的路上...
06-18 1118
在计算机视觉领域，结合卷积神经网络（CNN）和 Transformer 的优势已成为提升模型性能的重要趋势。CNN 擅长处理局部特征并具有良好的归纳偏置，而 Transformer 则在捕捉全局上下文和长距离依赖方面表现出色。然而，Transformer 的核心——标准自注意力机制——计算复杂度较高。
YOLOv11改进策略【Conv和Transformer】| CVPR-2021 Bottleneck Transformers 简单且高效的自注意力模块
Limiiiing的博客
10-12 744
本文记录的是利用优化的目标检测网络模型。标准的卷积操作虽然能有效捕获局部信息，但在处理需要全局信息整合的任务时存在局限性，而自注意力机制能够有效地建模长距离依赖，因此考虑将其引入到视觉架构中。本文利用将标准卷积和自注意力相结合，提高模型的全局感知能力。Bottleneck Transformers for Visual Recognition是一种将自注意力（Self-Attention）融入计算机视觉任务的骨干架构，其设计的原理和优势如下：是通过将ResNet瓶颈块中的空间3×3卷积替换为来构建的（如图所
yolov7改进--添加CBAM模块（注意力机制）
u012661539的博客
06-06 4079
【代码】改进yolov7--添加CBAM模块（注意力机制）
YOLOv7改进方式：从104层到24层的网络配置压缩，提升改进效率与性能
GzvDart的博客
09-16 758
YOLOv7是一种广泛应用于计算机视觉领域的目标检测算法，但其原始网络模型包含了104层，这给改进和优化带来了一定的困难。为了压缩网络配置，我们减少了横向连接的数量，只保留了对性能影响较大的关键横向连接。然而，为了进一步压缩网络配置，我们简化了残差块的结构。通过以上改进方法和相应的源代码，我们成功将YOLOv7的网络配置从104层压缩到了仅有24层，既提高了改进的效率，又在保持模型性能的同时提升了计算速度。为了简化网络配置，我们采用了更轻量级的检测头结构，例如使用更少的卷积层或减少卷积核的数量。
YOLOV7改进-针对小目标的NWD(损失函数)
毕竟是Shy哥
09-08 3080
7、iou_ration是超参，可以调，如果小目标比较多的话，这个值可以低一些，从而增加nwd损失的比例。3、把这几行复制到utiils的loss.py。4、先对CoputerLoss类做修改。2、utils-loss，这里加。5、把那一行替换成这个。8、还有一个部分要改。9、这个box也要改。
YOLOV7改进：加入RCS-OSA模块，提升检测速度
AIcurator的博客
08-15 825
凭借速度和精度之间的良好平衡，前沿的YOLO框架已成为最有效的目标检测算法之一。然而，使用YOLO网络在脑肿瘤检测中的性能研究很少。提出了一种新的基于信道Shuffle的重参数化卷积YOLO架构(RCS-YOLO)。我们提出了RCS和RCS的一次聚合(RCS- osa)，将特征级联和计算效率联系起来，以提取更丰富的信息并减少时间消耗。在脑肿瘤数据集Br35H上的实验结果表明，该模型在速度和精度上均优于YOLOv6、YOLOv7和YOLOv8。
YOLOv7改进之strSPPCSPC
weixin_47060902的博客
11-09 578
YOLOv7改进之strSPPCSPC
YOLOv7改进轻量化,引入轻量化骨干网络MobileOne
datayx的文章
10-30 1093
向AI转型的程序员都关注了这个号????????????一、前言MobileOne论文：https://arxiv.org/abs/2206.04040MobileOne github：https://github.com/apple/ml-mobileone二、基本原理使用Reparameterize重参数化实现模型的轻量化，基本模块如下图所示。三、改进方法说明：该部分的改进代码尽可能地根据官方代码的写法与YOL...
YOLOv7系列的改进：ACmix结构与自注意力和卷积的融合
QvisCs的博客
09-19 520
本文将介绍YOLOv7系列的改进，即ACmix结构与自注意力和卷积的融合，以提高其性能和效率。ACmix结构是一种自注意力和卷积的融合模块，通过将自注意力机制与卷积操作相结合，实现了特征的全局感知和局部细节的提取。这样，每个特征图都会经过自注意力模块和卷积模块的交替处理，从而同时实现全局感知和局部细节的提取。ACmix结构是一种自注意力和卷积的融合模块，通过将自注意力机制与卷积操作相结合，实现了特征的全局感知和局部细节的提取。卷积模块是传统的卷积操作，用于提取特征图中的局部细节。2.1 自注意力模块。
YOLOv7改进结构：结合DO-DConv卷积提升性能，构建高效检测器
IlgCrystal的博客
09-17 508
在YOLOv7中，我们引入了一种改进的结构，结合了DO-DConv（Depthwise Orthogonal Dilation Convolution）卷积，以进一步提高检测器的性能。在YOLOv7中，我们使用了DO-DConv卷积替代了部分标准卷积层，以增加感受野并提升特征的表达能力。DO-DConv卷积是一种基于深度可分离卷积和正交膨胀卷积的结合，它能够有效地捕捉目标的细节信息并提高感受野。在YOLOv7中，我们将DO-DConv卷积应用于主干网络和检测头部分，以增强特征表示能力和检测精度。
YOLOv7网络模型改进：网络配置文件更简洁实用！
带你成为别人眼中的大佬！
05-31 654
相比于YOLOv5，YOLOv7在保持准确率不变的情况下，使用更少的层数达到了更快的速度，同时还有更小的模型大小。本文将介绍YOLOv7的改进之处，以及如何使用网络配置文件快速修改模型。我们将每个卷积层、批量归一化层、ReLU激活函数以及全连接层的信息存储在配置文件中，然后在函数中解析配置文件，构建相应的层次，并将其设置为模型的属性。我们将网络配置文件存储为JSON格式，并读取配置文件中的信息以构建模型。以上是我们的改进，我们相信您可以使用这个网络配置文件快速修改YOLOv7网络模型。
YOLOv7改进结构：结合DO-DConv卷积提升性能，构建高性能目标检测器
IlgCrystal的博客
09-19 776
DO-DConv（Depthwise and Pointwise Dilated Convolution）卷积是一种结合了深度可分离卷积和空洞卷积的卷积操作，能够有效地增加模型的感受野，提取更丰富的特征信息。我们给出了主干网络和检测头的代码示例，并简要介绍了模型的训练和推理过程。接下来，我们使用改进的YOLOv7模型对数据集进行训练。在YOLOv7中，我们引入了DO-DConv卷积层来替代传统的卷积层，以增加模型的感受野。通过以上训练和推理的流程，我们可以使用改进的YOLOv7模型实现高性能的目标检测。
bottleneck transformer(botnet)
09-14
Bottleneck Transformer（BoTNet）是一种融合了卷积神经网络（CNN）和自注意力机制（Self-Attention）的网络结构。它在Multi-Head Self-Attention结构前后加上1×1卷积，与ViT中的Transformer block有一定的相似性。 BoTNet的主要结构包括： 1. Multi-Head Self-Attention（MHSA）：这是BoTNet的关键组件，用于捕捉输入序列中的全局依赖关系。通过对输入序列进行多头自注意力计算，能够有效地对不同位置之间的关系进行建模。这一部分与ViT中的Transformer block类似。 2. Bottleneck结构：BoTNet引入了Bottleneck结构，即在MHSA结构前后加上了1×1卷积。这样的设计能够减小计算量并提高模型的效率。同时，这种结构也使得BoTNet与具有MHSA的ResNet bottleneck block有一定的相似性，但在残差连接、标准化层等方面存在微小的差异。 总之，Bottleneck Transformer（BoTNet）是一种融合了CNN和Self-Attention的网络结构，通过MHSA和Bottleneck结构的组合实现了对输入序列的建模和特征提取。它与ViT中的Transformer block有一定的相似性，并且可以看作是具有Bottleneck结构的Transformer block。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

陈子迩

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值