YOLOv5改进 | Conv篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv5有效涨点

已于 2024-10-13 13:31:06 修改
阅读量1.1k 收藏 5
点赞数 1
CC 4.0 BY-SA版权
分类专栏： YOLOv5改进有效专栏 文章标签： YOLO 目标检测 深度学习 计算机视觉 人工智能 python YOLOv5
于 2024-10-12 23:46:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/java1314777/article/details/142891383

一、本文介绍

本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv5中的C3机制可以减少百分之十五的参数量和计算量，达到一个可观的轻量化作用（这种小波Conv对于目前的创新角度来说是非常流行的）。

​

专栏目录：YOLOv5改进有效涨点目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制

目录

一、本文介绍

二、原理介绍 

三、核心代码 

四、手把手教你添加C3WTConv

4.1 修改一

4.2 修改二

4.3 修改三 

4.4 修改四

五、模型训练 

5.1 C3WTConv的yaml文件

了解本专栏 订阅专栏 解锁全文
YOLOv8改进 | Conv篇 | 2024最新ECCV最新大感受野的小波卷积WTConv创新C2f（附代码 + 修改教程）
Snu77的博客
10-12 4326
官方论文地址点击此处即可跳转官方代码地址点击此处即可跳转这篇名为《用于大感受野的小波卷积》的文章提出了一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，而传统的CNN主要只能处理局部特征。以下是文章的主要内容总结：1. 问题背景：传统的CNN受限于卷积核的大小，难以有效捕捉全局上下文信息。
YOLOv11改进-卷积-引入小波卷积WTConv 解决多尺度小目标问题
qq_64693987的博客
10-18 8802
1.首先，WTConv利用二维Haar小波变换对输入图像进行多级分解。低频分量 (LL)：捕捉图像的低频信息，如整体形状或轮廓。水平高频分量 (LH)：捕捉图像中的水平边缘信息。垂直高频分量 (HL)：捕捉图像中的垂直边缘信息。对角线高频分量 (HH)：捕捉图像的对角线细节。在每一级的小波变换中，图像被下采样（空间分辨率减半），但频率信息得到了更细的分解。递归地执行小波变换（称为多级分解）可以得到不同尺度下的频率分量。
小波变换+CNN堪称完美的组合！
最新发布
Aimoxin111的博客
05-07 727
近年来，小波变换（Wavelet Transform）与卷积神经网络（CNN）的交叉研究已成为多模态特征学习的重要范式。小波变换通过时-频局部化分析克服了傅里叶变换在非平稳信号处理中的局限性，其多分辨率特性（Mallat, 1989）与CNN的层次化特征提取机制具有天然的拓扑相容性。小编整理了一些小波变换+CNN【合集，以下放出部分，全部论文PDF版皆可领取。Wavelet-SRNet：一种用于多尺度人脸超分辨率的基于小波的卷积神经网络。
不同小波基的小波变换（卷积）
songhhll的专栏
10-31 7231
#include #include #include #include #include #define WIN_WIDTH  1//1~10,选择小波基 double *Ld = new double[2*WIN_WIDTH];  //分解尺度函数 double *Hd = new double[2*WIN_WIDTH];  //分解母函数 double *Lr =
小波卷积：为计算机视觉任务开辟新的参数效率之路
weixin_73040764的博客
08-24 1万+
论文成功地利用小波变换（WT）提出了WTConv层，这是一种新的CNN层，能够在不大幅增加参数的情况下显著增加感受野。WTConv层通过在小波域中进行卷积操作，实现了对输入数据的多频率响应，这使得网络能够更好地捕捉低频信息，从而提高了对形状的敏感性，并增强了网络的鲁棒性。实验结果表明，WTConv层在多个视觉任务中都取得了性能提升，证明了其有效性。
YOLO即插即用---小波卷积
llz19670的博客
10-31 2050
论文地址：2407.05848。
大感受野的小波卷积
AI浩
10-24 2221
摘要。近年来，人们尝试增大卷积神经网络（CNNs）的核大小，以模仿视觉转换器（ViTs）自注意力模块的全局感受野。然而，这种方法很快便达到了上限，并且在实现全局感受野之前就饱和了。在本文中，我们证明了通过利用小波变换（WT），实际上可以在不遭受过度参数化的情况下获得非常大的感受野，例如，对于k×kk \times kk×k感受野，所提出方法中可训练参数的数量仅随kkk对数增长。所提出的层，命名为WTConv，可以作为现有架构中的即插即用替代品，产生有效的多频响应，并且随着感受野大小的增加而优雅地扩展。我们证
YOLOv11改进 | Conv/卷积篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv11有效涨点（二次创新C3k2）
Snu77的博客
11-05 1936
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少百分之十的参数量和计算量，达到一个可观的轻量化作用。
YOLOv11改进 | Conv/卷积篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv11有效涨点
Snu77的博客
10-13 4398
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少一定参数量和计算量，达到一个可观的轻量化作用。
YOLOv10改进 | Conv篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv10有效涨点
Snu77的博客
10-12 959
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv10中的C2f机制可以减少百分之二十的参数量和计算量，达到一个可观的轻量化作用。
WTConv：大感受野的小波卷积
m0_62953704的博客
07-31 3638
我们能否利用信号处理工具来有效地增加卷积的感受野，而不会受到过度参数化的影响？换句话说，我们可以拥有非常大的过滤器（例如，具有全局感受野）并且仍然可以提高性能吗？本文对这个问题给出了肯定的答案。本文提出的方法利用小波变换（Wavelet Transform, WT）来使卷积感受野很好地放大，并通过级联引导CNN更好地响应低频。在某种程度上，本文将解决方案基于小波变换（与傅里叶变换等不同）的动机是它保留了一些空间分辨率。这使得小波域中的空间运算（例如卷积）更有意义。
小波卷积网络Multi-level Wavelet-CNN for Image Restoration论文阅读笔记
热门推荐
import_torch_as_tf
09-30 1万+
论文链接：Multi-level Wavelet-CNN for Image Restoration | IEEE Conference Publication | IEEE Xplorex​​​​​​​x 论文来源：CVPRW2018 项目地址：GitHub - lpj0/MWCNN: Multi-level Wavelet-CNN for Image Restoration（matlab）GitHub - lpj-github-io/MWCNNv2: Multi-level Wavelet Conv
大感受野的小波卷积WTConv助力YOLOv11
m0_53148408的博客
10-28 1401
WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少一定参数量和计算量，达到一个可观的轻量化作用（这种小波Conv对于目前的创新角度来说是非常流行的）。三、核心代码。
即插即用篇 | YOLOv5/v7引入Haar小波下采样 | 一种简单而有效的语义分割下采样模块
weixin_39818775的博客
07-10 995
在目标检测和语义分割任务中，特征下采样是至关重要的一步，它可以降低模型的计算复杂度，同时保留重要的特征信息。传统的 YOLOv5 和 YOLOv7 模型使用池化层来进行特征下采样，但池化层会丢失一些重要的空间信息。为了解决这个问题，本文提出了一种新的方案，即使用 Haar 小波下采样来替换 YOLOv5 和 YOLOv7 中的池化层。Haar 小波是一种简单而有效的下采样方法，它可以保留更多的空间信息，同时降低计算复杂度。
小波卷积（wavelet convolution）模型详解及代码复现
hasakie的博客
01-23 771
研究表明，小波卷积网络在处理复杂的自然图像时，能够以更少的参数数量获得与传统CNN相当甚至更好的性能。DWT能够有效分解信号的不同频率成分，而小波域卷积则充分利用了小波系数的稀疏性和局部性，使得模型可以在不显著增加参数数量的情况下，获得更大的感受野。研究表明，小波卷积网络能够在保持较小参数数量的同时，获得较大的感受野，从而更好地捕捉图像的局部特征和全局结构信息。这种设计使得WTConv在保持较小卷积核的同时，能够获得较大的感受野，从而在不显著增加参数数量的情况下，增强了模型对低频信息的捕捉能力。
ECCV 2024 | CNN涨点神器！WTConv：大感受野的小波卷积
阿木寺的博客
09-29 6437
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【Mamba/多模态/扩散】交流群添加微信号：CVer111，小助手会拉你进群！扫描下方二维码，加入CVer学术星球！可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文/搞科研/涨薪，强烈推荐！来源：晓飞的算法工程笔记近年来，人们尝试增加卷积神经网络（CNN）的卷积核大小，以模拟视...
格子乘法与卷积-》卷积定理-》小波分析（暂记）
ResumeProject的博客
02-20 1148
MALLET分解算法 卷积定理是傅立叶变换满足的一个重要性质。卷积定理指出，函数卷积的傅立叶变换是函数傅立叶变换的乘积。具体分为时域卷积定理和频域卷积定理，时域卷积定理即时域内的卷积对应频域内的乘积；频域卷积定理即频域内的卷积对应时域内的乘积，两者具有对偶关系。 ...
深度学习自学（三十六）：有效提升图像分类噪声鲁棒性的小波卷积网络
TheDayIn_优快云的博客
05-16 942
整理的人脸系列学习经验：包括人脸检测、人脸关键点检测、人脸优选、人脸对齐、人脸特征提取，Re-ID等学习过程总结，有需要的可以参考，仅供学习，请勿盗用。https://blog.youkuaiyun.com/TheDayIn_优快云/article/details/93199307 CSIG-广东省CVPR2020论文论文预交流在线学术报告会（报告9）： ...
YOLOv8改进 | 注意力机制 | 添加Deformable-LKA
03-12
### 将注意力机制与 Deformable-LKA 集成至 YOLOv8 #### 1. 注意力机制简介 注意力机制允许模型聚焦于输入数据的关键部分，从而提高特定任务的表现。对于目标检测而言，这有助于更好地捕捉物体边界和细节。 #### 2. Deformable-LKA 组件解析 Deformable-LKA 是一种结合了大卷积核的感受野优势与可变形卷积灵活性的新型注意力模块[^3]。它能够动态调整卷积操作的位置偏移量，使得网络可以灵活应对不同尺度的目标对象及其变化形态。 #### 3. 在 YOLOv8 中集成 Deformable-LKA 为了在 YOLOv8 上实现该功能，需按照如下方式修改架构： - **替换原有层**：将原有的标准卷积层替换成带有 Deformable-LKA 的版本。 - **位置选择**： - 对于 C2f 层次结构中的某些中间特征图应用此机制； - 或者是在最终预测头部之前加入额外的一层或多层含有 Deformable-LKA 的组件。 ```python from yolov8.models import * import torch.nn as nn class DeformConvWithLKA(nn.Module): def __init__(self, in_channels, out_channels, kernel_size=7, stride=1, padding=3): super().__init__() self.offset_conv = nn.Conv2d(in_channels, 2 * (kernel_size**2), kernel_size=kernel_size, stride=stride, padding=padding) self.deform_conv = ModulatedDeformConvPack( in_channels=in_channels, out_channels=out_channels, kernel_size=(kernel_size,kernel_size), stride=stride, padding=padding, dilation=1, deform_groups=1) def forward(self,x): offset=self.offset_conv(x).clamp(-max_offset,max_offset) output=self.deform_conv(x,offset) return output ``` 上述代码展示了如何创建一个基于 PyTorch 的 `ModulatedDeformConvPack` 来构建具有 LKA 功能的新类 `DeformConvWithLKA`[^4]。 #### 4. 训练配置调整 当引入新的组件后，可能还需要相应地调整超参数设置，比如学习率、批量大小等，以确保最佳收敛性和泛化能力。 #### 5. 性能评估 经过这些改动之后，应该使用合适的指标（如 mAP）来衡量改进前后系统的差异，并通过对比实验验证所做更改的有效性[^1]。
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值