YOLOv10改进 | 独家创新篇 | 结合Dual思想利用HetConv创新一种全新轻量化结构CSPHet（参数量下降70W）

已于 2024-07-14 22:51:54 修改
阅读量919 收藏 16
点赞数 16
CC 4.0 BY-SA版权
分类专栏： YOLOv10有效涨点专栏 文章标签： YOLO 深度学习 人工智能 计算机视觉 YOLOv10 目标检测 python
于 2024-07-14 22:51:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/140051914

 一、本文介绍

本文给大家带来的改进机制是我结合Dual的思想利用HetConv提出一种全新的结构CSPHet，我们将其用于替换我们的C2f结构，可以将参数降低越55W，GFLOPs降低至7.0GFLOPs，同时本文结构为我独家创新，全网无第二份，非常适合用于发表论文，该结构非常灵活，利用Dual卷积思想，结合异构内核卷积来并行处理图片，结构上的结合非常合理，同时该结构非常适合轻量化的读者。

在开始之前给大家推荐一下我的专栏，本专栏每周更新3-10篇最新前沿机制 | 包括二次创新全网无重复，以及融合改进(大家拿到之后添加另外一个改进机制在你的数据集上实现涨点即可撰写论文)，还有各种前沿顶会改进机制 |，更有包含我所有附赠的文件（文件内集成我所有的改进机制全部注册完毕可以直接运行）和交流群和视频讲解提供给大家。  

欢迎大家订阅我的专栏一起学习YOLO！ 

  专栏回顾：YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备 

目录

 一、本文介绍

二、HetConv原理 

2.1 HetConv的基本原理 

三、CSPHet的核心代码

四、CSPHet的添加方式 

4.1 修改一

4.2 修改二 

4.3 修改三 

4.4 修改四 

五、CSPHet的yaml文件和运行记录

5.1 CSPHet的yaml文件

了解本专栏 订阅专栏 解锁全文
YOLOv8改进 | Conv篇 | 结合Dual思想利用HetConv创新一种全新轻量化结构CSPHet（参数量下降70W）
Snu77的博客
01-27 4555
本文给大家带来的改进机制是我结合Dual的思想利用HetConv提出一种全新的结构CSPHet，我们将其用于替换我们的C2f结构，可以将参数降低越75W，GFLOPs降低至6.6GFLOPs，同时本文结构为我独家创新，全网无第二份，非常适合用于发表论文，该结构非常灵活，利用Dual卷积思想，结合异构内核卷积来并行处理图片，结构上的结合非常合理，同时该结构非常适合轻量化的读者。在开始之前给大家推荐一下我的专栏，本专栏每周更新3-10篇最新前沿机制 | 包括二次创新全网无重复，以及融合改进(大家拿到之后添加
YOLOv8改进 | Conv篇 | 利用DualConv二次创新C2f提出一种轻量化结构（轻量化创新）
Snu77的博客
01-26 7257
本文给大家带来的改进机制是利用DualConv改进C2f提出一种轻量化的C2f，DualConv是一种创新的卷积网络结构，旨在构建轻量级的深度神经网络。它通过结合3×3和1×1的卷积核处理相同的输入特征映射通道，优化了信息处理和特征提取。DualConv利用组卷积技术高效排列卷积滤波器，大大降低了计算成本和参数数量。我们将其用于C2f的创新上能够大幅度的降低参数，还能够提升精度。在开始之前给大家推荐一下我的专栏，
YOLOv10改进 | Conv篇 | 利用DualConv二次创新C2f提出一种轻量化结构（轻量化创新）
Snu77的博客
07-09 1431
本文给大家带来的改进机制是利用DualConv改进C2f提出一种轻量化的C2f，DualConv是一种创新的卷积网络结构，旨在构建轻量级的深度神经网络。它通过结合3×3和1×1的卷积核处理相同的输入特征映射通道，优化了信息处理和特征提取。DualConv利用组卷积技术高效排列卷积滤波器，大大降低了计算成本和参数数量。我们将其用于C2f的创新上能够大幅度的降低参数，还能够提升精度。在开始之前给大家推荐一下我的专栏，
论文翻译：HetConv-Heterogeneous Kernel-Based Convolutions for Deep CNNs
杨同学努力减肥的日子
07-26 777
Abstract 我们提出了一种新颖的深度学习架构，其中卷积操作利用了异构内核。与标准卷积运算相比，所提出的HetConv（基于异构内核的卷积）减少了计算（FLOPs）和参数的数量，同时仍保持表示效率。为了证明我们提出的卷积的有效性，我们在标准卷积神经网络（CNN）架构上提供了广泛的实验结果，如VGG和ResNet。 我们发现在用我们提出的HetConv滤波器替换这些架构中的标准卷积滤波器后，我们...
YOLOv8改进 | Conv篇 | 结合Dual思想利用HetConv创新一种全新轻量化结构CSPHet
走向CTO的路上...
09-01 611
CSPHet（CSP-HetConv）是一种轻量化的卷积神经网络结构，它结合了CSP结构和HetConv结构，在保证模型性能的同时，显著降低了模型参数量和计算复杂度。CSPHet结构首次应用于YOLOv8模型中，取得了显著的效果。CSPHet是一种轻量化且高效的卷积神经网络结构，它结合了CSP结构和HetConv结构，在保证模型性能的同时，显著降低了模型参数量和计算复杂度。CSPHet结构首次应用于YOLOv8模型中，取得了显著的效果。
YOLOv11改进 | 独家创新篇 | 结合Dual思想利用HetConv创新一种全新轻量化结构CSPHet（轻量化网络结构必备）
Snu77的博客
11-05 1817
本文给大家带来的改进机制是我结合Dual的思想利用HetConv提出一种全新的结构CSPHet，我们将其用于替换我们的C2f结构，可以将参数降低越55W，GFLOPs降低至7.0GFLOPs同时本文结构为我独家创新，全网无第二份，非常适合用于发表论文，该结构非常灵活，利用Dual卷积思想，结合异构内核卷积来并行处理图片，结构上的结合非常合理，同时该结构非常适合轻量化的读者。
YOLOv5改进 | Conv篇 | 结合Dual思想利用HetConv创新一种全新轻量化结构CSPHet（参数量下降20W,）
Snu77的博客
02-02 1541
本文给大家带来的改进机制是我结合Dual的思想利用HetConv提出一种全新的结构CSPHet，我们将其用于替换我们的C2f结构，可以将参数降低越20W，GFLOPs降低至4.1GFLOPs，同时本文结构为我独家创新，全网无第二份，非常适合用于发表论文，该结构非常灵活，利用Dual卷积思想，结合异构内核卷积来并行处理图片，结构上的结合非常合理，同时该结构非常适合轻量化的读者。欢迎大家订阅我的专栏一起学习YOLO！YOLOv5改进有效涨点目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制。
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 15万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
HetConv--Heterogeneous-Kernel-Based-Convolutions-for-Deep-CNNs
u010067397的专栏
05-26 610
when CVPR 2019 what 对于深度卷积神经网络而言，准确度和计算成本往往难以得兼，研究界也一直在探索通过模型压缩或设计新型高效架构来解决这一问题。印度理工学院坎普尔分校的一篇 CVPR 论文则给出了一个新的思路——使用异构的卷积过滤器；实验表明这种方法能在保证准确度的同时显著降低计算成本。 who （动机） 卷积神经网络（CNN）在视觉和自然语言处理领域都已经取得了卓越的表...
HetConv: Heterogeneous Kernel-Based Convolutions for Deep CNNs 论文解析——异构卷积训练：提升效率而不损准确度
二十二画生
02-28 1294
文章目录前言MotivationRelated Works1 Efficient Convolutional Filter2 Model CompressionHetConv原理介绍性能分析实验结果 前言 HetConv: Heterogeneous Kernel-Based Convolutions for Deep CNNs CVPR2019的论文作者来自印度坎普尔理工学院，QS150左右，跟...
HetConv: Heterogeneous Kernel-Based Convolutions for Deep CNNs
w_xiaomu的博客
03-24 358
Introduction 本片文章主要提出新的卷积，从DWC，PWC，GWC在到本文的HetConv。本文卷积的优点是与标准的卷积比，HetConv卷积减少参数量，计算量也同时减少。并且将该结构放入到VGG和ResNet中进行测试，得出最后的实验结果。 Model 标准卷积的计算量为：FL s = D0 × D0 × M × N × K × K ; HetConv的计算量为： FLk= (Do ...
【论文阅读笔记】HetConv: Heterogeneous Kernel-Based Convolutions for Deep CNNs
寸先生的AI道路
03-19 3446
论文地址：https://arxiv.org/abs/1903.04120 本文是CVPR2019上发表的一篇文章，文章主要设计了新的滤波器结构，在大幅减少FLOPS的前提下还能保证延迟和准确性。 文章将现有的卷积过滤器大致分为三类：1）深度方面的卷积过滤器，用于执行逐深度的卷积（DWC）2）点方面的卷积过滤器，用于执行逐点卷积（PWC）3）分组方面的卷积...
论文阅读笔记---HetConv
dfql83704的博客
09-05 588
1 写在前边的话 HetConv性能：当使用HetConv取代标准卷积之后，FLOPs大概是之前的1/8到1/3，更重要的是精度几乎不变！！！ 论文地址：https://arxiv.org/abs/1903.04120 2 HetConv的结构 实质：是分组卷积与逐点卷积结合的产物。具体如下： 对于卷积（标准卷积；深度卷积；分组卷积；逐点卷积）来讲，每一个filter的尺寸是完全一样的...
2019CVPRHetConv
bujingyu12345的博客
04-04 728
参考文献 最近放出来了一篇CVPR2019论文，文章提出了一种新的高效卷积方式：HetConv，在CIFAR10、ImageNet等数据集超过了标准卷积以及DW+PW的高效卷积组合形式，取得了更高的分类性能。 https://mp.weixin.qq.com/s/Z_nOIKpL3osfX3ylIsJ4rA 首先看上面的这个 对参考文献补充 重要观点 DW是depthwise convolutio...
【YOLOv8改进-卷积Conv】DualConv( Dual Convolutional)：用于轻量级深度神经网络的双卷积核
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-05 1419
CNN架构通常对内存和计算资源的要求较高，这使得它们在硬件资源有限的嵌入式系统中难以实现。我们提出了一种用于构建轻量级深度神经网络的双卷积核（DualConv）方法。DualConv结合了3×33 \times 33×3和1×11 \times 11×1的卷积核，同时处理相同的输入特征图通道，并利用组卷积技术高效地排列卷积滤波器。DualConv可以应用于任何CNN模型，例如用于图像分类的VGG-16和ResNet-50，用于目标检测的YOLO和R-CNN，或用于语义分割的FCN。
[CVPR2019]:最新高效卷积方式HetConv
急流勇进
03-26 2676
原文链接：https://zhuanlan.zhihu.com/p/59075508 最近放出来了一篇CVPR2019论文，文章提出了一种新的高效卷积方式：HetConv，在CIFAR10、ImageNet等数据集超过了标准卷积以及DW+PW的高效卷积组合形式，取得了更高的分类性能。论文链接：https://arxiv.org/abs/1903.04120【Motivation】目前提高CNN性能...
CSPHet模块：通过Dual HetConv结构提升YOLOv8的推理速度与参数效率【附保姆级代码】
一键难忘的博客
11-08 3706
在计算机视觉中，YOLOv8作为目标检测领域的最新版本，通过引入多种改进来提升检测精度和速度。然而，提升精度和保持实时性能往往需要更多参数与计算量。本文提出一种结合Dual思想与HetConv的新型轻量化结构，称为CSPHet。CSPHet能够在保持YOLOv8检测精度的基础上有效减少约70万参数量，实现模型的轻量化和速度的提升。HetConv（Heterogeneous Convolution）是一种混合卷积技术，通过同时使用1x1、3x3等不同大小的卷积核，来捕捉不同尺度的特征。
unet改进模型轻量化
最新发布
03-01
### UNet 改进模型轻量化的方法和技术 #### 一、重参数化技术的应用 为了提升轻量化网络的能力，在某些研究中采用了重参数结构来增强模型性能。这种结构不仅能够简化网络设计，还能有效提高模型的表现力[^1]。 ```python class ReparameterizedBlock(nn.Module): def __init__(self, in_channels, out_channels): super(ReparameterizedBlock, self).__init__() self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1) def forward(self, x): return F.relu(self.conv(x)) ``` #### 二、高效的空间金字塔池化模块 ESPNet-C 和 Dual Attention Network 的组合被证明可以显著加强特征提取的效果。前者专注于捕捉多尺度上下文信息；后者则通过空间注意力机制进一步提升了局部细节的感受野范围。这样的改进使得整个架构更加紧凑且具备更高的表达能力[^2]。 #### 三、Mamba作为轻量级组件嵌入到UNet框架下 LightM-UNet 提出了一个新的视角——即采用 Mamba 结构替换传统 CNN 或 Transformer 层次中的部分单元，从而构建出更适合于资源受限环境下的医学影像处理方案。此方法既保留了原始 U 形连接的优势特性，又大幅减少了所需的计算开销[^3]。 ```python import torch.nn as nn class LightMUnetEncoderBlock(nn.Module): def __init__(self, input_dim, output_dim): super(LightMUnetEncoderBlock, self).__init__() self.mamba_layer = ... # Define the lightweight mamba layer here def forward(self, x): ... class LightMUnetDecoderBlock(nn.Module): def __init__(self, input_dim, output_dim): super(LightMUnetDecoderBlock, self).__init__() self.simple_decoder_module = ... # Implement a simple decoder module to reduce computation cost def forward(self, x): ... # Example usage of these blocks within an overall network architecture. light_m_unet_architecture = [ (input_channels_0, hidden_channels_1), (hidden_channels_1, hidden_channels_2), ... ] for i, (in_chs, out_chs) in enumerate(light_m_unet_architecture[:-1]): encoder_block = LightMUnetEncoderBlock(in_chs, out_chs) decoder_block = LightMUnetDecoderBlock(out_chs, light_m_unet_architecture[i][0]) # Add more layers or connections between encoders and decoders... ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值