YOLOv5改进 | Conv篇 | 利用CVPR2024-DynamicConv提出的GhostModule改进C3（全网独家首发）

已于 2024-04-23 09:55:28 修改
阅读量1.8k 收藏 10
点赞数 11
CC 4.0 BY-SA版权
分类专栏： YOLOv5改进有效专栏 文章标签： 深度学习 计算机视觉 神经网络 人工智能 YOLO yolov5 目标检测
于 2024-04-23 03:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/138095523
本文介绍了如何将CVPR2024的DynamicConv中的GhostModule应用于YOLOv5，旨在增加模型参数量而不增加FLOPs。详细阐述了动态卷积的工作原理，并提供手把手的代码添加教程，包括修改YOLO模型结构的四个步骤。通过这种方法，有望提升目标检测模型的性能和适应性。

一、本文介绍

本文给大家带来的改进机制是CVPR2024的最新改进机制DynamicConv其是CVPR2024的最新改进机制，这个论文中介绍了一个名为ParameterNet的新型设计原则，它旨在在大规模视觉预训练模型中增加参数数量，同时尽量不增加浮点运算（FLOPs），所以本文的DynamicConv被提出来了，使得网络在保持低FLOPs的同时增加参数量，在其提出的时候它也提出了一个新的模块hostModule，我勇其魔改C2f从而达到创新的目的，在V5n上其参数量仅有130W计算量为2.9GFLOPs，从而允许这些网络从大规模视觉预训练中获益。

  欢迎大家订阅我的专栏一起学习YOLO！ 

 专栏回顾：YOLOv5改进专栏——持续复现各种顶会内容——内含100+创新

目录

一、本文介绍

二、原理介绍

三、核心代码 

 四、手把手教你添加GhostModule模块

4.1 GhostModule添加步骤

4.1.1 修改一

4.1.2 修改二

4.1.3 修改三 

4.1.4 修改四

4.2 GhostModule的yaml文件和训练截图

4.3GhostModule的训练过程截图 

五、本文总结

二、原理介绍

​

官方论文地址： 官方论文地址点击此处即可跳转

官方代码地址： 官方代码地址点击此处即可跳转 

动态卷积（Dynamic Convolution）是《DynamicConv.pdf》中提出的一种关键技术，旨在增加网络的参数量而几乎不增加额外的浮点运算（FLOPs）。以下是关于动态卷积的主要信息和原理：

主要原理：

了解本专栏 订阅专栏 解锁全文
YOLOv11改进缝合DynamicConv | 通过DynamicConv与GhostModule改进小目标检测性能（附代码）
一键难忘的博客
07-05 700
本文介绍了CVPR2024的最新改进机制——DynamicConv，该机制在大规模视觉预训练模型中通过一个名为ParameterNet的新型设计原则实现了显著改进。ParameterNet的核心目标是在增加模型参数数量的同时，尽量避免增加浮点运算（FLOPs），从而有效提升模型性能而不增加计算开销。
【YOLOv10改进[CONV]】使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 全网首发
静谧、淡雅
06-11 940
使用DynamicConv二次创新C2f模块实现轻量化 + 含全部代码和详细修改方式 + 手撕结构图 + 全网首发 + 魔改 + 遥遥领先
DynamicConv（动态卷积）
微信号：Custom-Software
08-23 1万+
DynamicConv（动态卷积） 第一个总结: 动态卷积的目标在于：在网络性能与计算负载中寻求均衡。常规提升网络性能的方法（更宽、更深）往往会导致更高的计算消耗，因此对于高效网络并不友好。 因而，相比静态卷积，动态卷积具有更强的特征表达能力。 相比静态感知器，动态感知器具有更大的模型。它包含两个额外的计算：(a)注意力权值计算；(2)动态权值融合。尽管如此，这两点额外计算相比感知器的计算量可以忽略： Dynamic Convolution 类似于动态感知器，动态卷积同样具有K个核。按照CNN中的经典设
轻量级网络Ghostnet(GhostConv(幻影卷积)、Ghost BottleNeck)详解
weixin_43960370的博客
04-22 3万+
该论文提供了一个全新的Ghost模块，旨在通过廉价操作生成更多的特征图。基于一组原始的特征图，作者应用一系列线性变换，以很小的代价生成许多能从原始特征发掘所需信息的“Ghost”特征图（Ghost feature maps）。该Ghost模块即插即用，通过堆叠Ghost模块得出Ghost bottleneck，进而搭建轻量级神经网络——GhostNet。
YOLOv9独家原创改进|加入幽灵卷积Ghost Convolution模块，轻量化！
深度学习炼丹师，偶尔分享炼丹技术!
03-04 7403
由于内存和计算资源有限，在嵌入式设备上部署卷积神经网络是困难的。特征图中的冗余是那些成功的细胞神经网络的一个重要特征，但在神经结构设计中很少进行研究。本文提出了一种新的Ghost模块，通过少量的计算生成更多的特征图。基于一组内在特征图，我们以低廉的成本应用一系列线性变换来生成许多重影特征图，这些重影特征图可充分揭示内在特征背后的信息。所提出的Ghost模块可以作为即插即用组件来升级现有的卷积神经网络。Ghost瓶颈被设计为堆叠Ghost模块，然后可以轻松地建立轻量级GhostNet。
YOLOv5改进 | 模块融合 | C3融合 ghost + DynamicConv 【两次融合 + 独家改进】
kay_545
08-29 2771
yolov5，yolov5融合改进，yolov5模块缝合
YOLOv8改进 | Conv篇 | 利用CVPR2024-DynamicConv提出的GhostModule改进C2f（全网独家首发）
Snu77的博客
04-19 6843
动态卷积（Dynamic Convolution）是《DynamicConv.pdf》中提出的一种关键技术，旨在增加网络的参数量而几乎不增加额外的浮点运算（FLOPs）。主要原理：动态卷积通过对每个输入样本动态选择或组合不同的卷积核（称为"experts"），来处理输入数据。这种方法可以视为是对传统卷积操作的扩展，它允许网络根据输入的不同自适应地调整其参数。
YOLOv10改进 | Conv篇 | 利用CVPR2024-DynamicConv提出的GhostModule改进C2f（全网独家首发）
Snu77的博客
07-11 1040
本文给大家带来的改进机制是CVPR2024的最新改进机制其是CVPR2024的最新改进机制，这个论文中介绍了一个名为ParameterNet的新型设计原则，它旨在在大规模视觉预训练模型中增加参数数量，同时尽量不增加浮点运算（FLOPs），所以本文的DynamicConv被提出来了，使得网络在保持低FLOPs的同时增加参数量，在其提出的时候它也提出了一个新的模块hostModule，我勇其魔改C2f从而达到创新的目的，从而允许这些网络从大规模视觉预训练中获益。欢迎大家订阅我的专栏一起学习YOLO！
YOLOv11改进 | Conv篇 | 利用CVPR2024-DynamicConv提出的GhostModule辅助C3k2进行特征融合（全网独家首发）
Snu77的博客
10-16 3419
本文给大家带来的改进机制是CVPR2024的改进机制其是CVPR2024的最新改进机制，这个论文中介绍了一个名为ParameterNet的新型设计原则，它旨在在大规模视觉预训练模型中增加参数数量，同时尽量不增加浮点运算（FLOPs），所以本文的DynamicConv被提出来了，使得网络在保持低FLOPs的同时增加参数量，在其提出的时候它也提出了一个新的模块hostModule，我勇其魔改C2f从而达到创新的目的，从而允许这些网络从大规模视觉预训练中获益。欢迎大家订阅我的专栏一起学习YOLO！
YOLOv9改进策略 | Conv篇 | 利用CVPR2024-DynamicConv提出的GhostModule二次创新RepNCSPELAN4（全网独家首发）
Snu77的博客
05-10 2132
本文给大家带来的改进机制是CVPR2024的最新改进机制其是CVPR2024的最新改进机制，这个论文中介绍了一个名为ParameterNet的新型设计原则，它旨在在大规模视觉预训练模型中增加参数数量，同时尽量不增加浮点运算（FLOPs），所以本文的DynamicConv被提出来了，使得网络在保持低FLOPs的同时增加参数量，在其提出的时候它也提出了一个新的模块GhostModule，我勇其魔改从而达到创新的目的，在V5n上其参数量仅有130W计算量为2.9GFLOPs，
YOLOv10改进 | Conv改进篇 | YOLOv10引入DynamicConv替换普通Conv卷积下采样和C2f_GhostModule_DynamicConv替换C2f(来自CVPR2024）
Ai缝合怪、助力小伙伴高效发论文
09-06 4803
大规模视觉预训练显著提高了大型视觉模型的性能。然而，我们观察到低 FLOPs 陷阱，即现有的低 FLOPs 模型无法从大规模预训练中受益。在本文中，我们介绍了一种称为 ParameterNet 的新设计原理，旨在增加大规模视觉预训练模型中的参数数量，同时最大限度地减少 FLOPs 的增加。我们利用DynamicConv动态卷积将其他参数合并到网络中，FLOP 仅略有增加。ParameterNet 方法允许低 FLOPs 网络利用大规模视觉预训练。
YOLOv5改进 | 融合改进 | C3融合可变核卷积AKConv【附代码+小白可上手】
kay_545
08-14 1346
yolov5，模块融合，yolov5改进，C3_AKConv
YOLOv9 网络结构 backbone 中的 RepNCSPELAN4 和 ADown 模块
weixin_46875627的博客
03-14 1万+
看了YOLOv9的论文和代码，整理了一下网络中的模块，以方便理解和日后参考使用。
YOLOv5 | 鬼魅（幽灵）卷积 | 改进Ghost卷积轻量化网络
kay_545
03-28 4589
卷积层和建议的 Ghost 模块的图示，用于输出相同数量的特征图。Φ 代表廉价操作深度卷积神经网络通常由大量卷积组成，这会导致巨大的计算成本。尽管 MobileNet 和 ShuffleNet 等最近的工作引入了深度卷积或洗牌操作，以使用较小的卷积滤波器（浮点数操作）构建高效的 CNN，但剩余的 1 × 1 卷积层仍然会占用大量内存和失败。其中*是卷积运算，b是偏置项，Y ∈ Rh′×w′×n是n个通道的输出特征图，f ∈ Rc×k×k×n是该层的卷积滤波器。
YOLOV8V10改进系列指南
qq_37706472的博客
02-19 11万+
YOLOV8V10改进系列指南，仅仅69.9包含YOLOV8、YOLOV10的两个主流模型改进方案、含有300+种改进的集合，且含有多种二次创新和原创改进！
YOLOv8改进 | Conv篇 | CVPR2024最新DynamicConv替换下采样（包含C2f创新改进，解决低FLOPs陷阱）
Snu77的博客
04-18 6581
动态卷积（Dynamic Convolution）是《DynamicConv.pdf》中提出的一种关键技术，旨在增加网络的参数量而几乎不增加额外的浮点运算（FLOPs）。1. 动态卷积的定义：动态卷积通过对每个输入样本动态选择或组合不同的卷积核（称为"experts"），来处理输入数据。这种方法可以视为是对传统卷积操作的扩展，它允许网络根据输入的不同自适应地调整其参数。
YOLOv5改进 | 卷积模块 | 将Conv替换为轻量化的GSConv【原理 + 完整代码】
kay_545
06-01 6999
yolov5改进，yolo创新，GSConv，VoVGSCSP, VoVGSCSPC
yolov5-7.0修改骨干网络Ghostnet\efficientnet_b0\MobileNetv3_small\ShuffleNetV2
weixin_45866058的博客
11-11 1395
Ghostnet\efficientnet_b0\MobileNetv3_small\ShuffleNetV2替换yolon5主干网络：修改骨干网络主要需要添加模块到models/common.py文件中，在models/yolo.py文件夹中进行注册，修改models下面的yaml文件中的网络结构。
手把手带你调参YOLOv5 (v5.0-v7.0)（推理）
热门推荐
YOLOv8项目贡献者
04-24 16万+
解析YOLOv5项目中detect.py文件27个参数含义
D:\deep_learning\yolov8\1\YOLOv8改进 _ Conv篇 _ CVPR2024最新DynamicConv替换下采样（包含C2f创新改进，解决低FLOPs陷阱）_[cvpr2024 repvit] yolov8-优快云博客.mhtml
最新发布
09-03
### YOLOv8用CVPR2024 DynamicConv替换下采样 在目标检测中，下采样操作起着关键作用，它能够降低特征图的尺寸，减少计算量。CVPR2024的DynamicConv（动态卷积）为下采样操作带来了新的思路。DynamicConv可以根据输入特征动态调整卷积核，相比传统的静态卷积，它能更好地适应不同的输入模式，提高模型的表达能力。 在YOLOv8中使用DynamicConv替换下采样层，需要对模型的网络结构进行修改。以下是一个简单的伪代码示例，展示如何在代码层面实现这一替换： ```python import torch import torch.nn as nn # 假设这是DynamicConv的实现 class DynamicConv(nn.Module): def __init__(self, in_channels, out_channels, kernel_size, stride=1, padding=0): super(DynamicConv, self).__init__() # 这里省略DynamicConv的具体实现 pass def forward(self, x): # 前向传播 pass # 原始YOLOv8下采样层可能是普通卷积 # 替换为DynamicConv original_downsample = nn.Conv2d(in_channels=64, out_channels=128, kernel_size=3, stride=2, padding=1) dynamic_downsample = DynamicConv(in_channels=64, out_channels=128, kernel_size=3, stride=2, padding=1) ``` ### C2f创新改进解决低FLOPs陷阱 C2f模块是YOLOv8中的重要组件。为了解决低FLOPs（浮点运算）陷阱，C2f模块可以进行创新改进。例如结合CVPR2023的SCConv，SCConv利用空间重建单元（SRU）和通道重建单元（CRU），分别抑制空间冗余和减少通道冗余，在提高性能的同时减少参数数量和FLOP [^1][^3]。 以下是一个将SCConv集成到C2f模块的简单代码示例： ```python import torch import torch.nn as nn # 假设这是SCConv的实现 class SCConv(nn.Module): def __init__(self, in_channels, out_channels): super(SCConv, self).__init__() # 这里省略SCConv的具体实现 pass def forward(self, x): # 前向传播 pass # 原始C2f模块 class OriginalC2f(nn.Module): def __init__(self, in_channels, out_channels): super(OriginalC2f, self).__init__() # 原始C2f的实现 pass def forward(self, x): # 前向传播 pass # 创新改进后的C2f模块，集成SCConv class ImprovedC2f(nn.Module): def __init__(self, in_channels, out_channels): super(ImprovedC2f, self).__init__() self.scconv = SCConv(in_channels, out_channels) # 其他C2f的结构 pass def forward(self, x): x = self.scconv(x) # 其他操作 return x ``` ### 结合CVPR2024 repvit相关内容 CVPR2024的repvit可能提出了一些新的网络架构或模块设计思想。可以将repvit的相关技术与YOLOv8结合，比如借鉴repvit的模块结构，对YOLOv8的骨干网络进行改进，以提高模型的性能和效率。 具体实现时，需要深入研究repvit的论文，理解其核心技术，并将其融入到YOLOv8的代码中。 ### 相关资料获取 要获取更详细的技术资料，可以通过以下途径： 1. **学术数据库**：访问IEEE Xplore、ACM Digital Library等学术数据库，搜索CVPR2024关于DynamicConv、repvit的论文。 2. **开源代码库**：在GitHub等开源代码平台上搜索相关的开源实现，参考代码和文档。 3. **学术论坛**：参与目标检测相关的学术论坛，与其他研究者交流经验和技术。
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值