YOLOv11改进 | Conv篇 | YOLOv11引入24年大感受野的小波卷积WTConv

最新推荐文章于 2025-04-07 10:05:15 发布
最新推荐文章于 2025-04-07 10:05:15 发布
阅读量1.2k 收藏
点赞数 28
分类专栏： YOLOv11有效涨点专栏 文章标签： YOLO 深度学习 人工智能 计算机视觉 目标检测 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/tsg6698/article/details/144917549
版权

1. WTConv介绍

1.1  摘要：近年来，人们试图通过增加卷积神经网络（ConvolutionalNeuralNets，CNNs）的核尺寸来模拟视觉变换器（VisionTransformers，ViTs）的自我注意块的全局感受域。然而，这种方法很快就达到了一个上限和饱和的方式之前，实现了一个全球的接受领域。在这项工作中，我们证明，通过利用小波变换（WT），它是，事实上，有可能获得非常大的感受野，而不遭受过度参数化，例如，对于k × k的感受野，所提出的方法中的可训练参数的数目仅随k的对数增长。所提出的WTConv层可作为现有架构中的插入式替代品，产生有效的多频响应，并随着感受野的大小而适度地缩放。我们展示了ConvNeXt和MobileNetV2架构中的WTConv层在图像分类以及下游任务主干中的有效性，并展示了它产生的额外属性，如对图像损坏的鲁棒性和对形状的响应优于对纹理的响应。

官方论文地址：

了解本专栏 订阅专栏 解锁全文
卷积篇 | YOLOv8改进之引入基于小波变换的新型卷积WTConv | ECCV 2024
突然好想你
11-25 713
这篇文章介绍了一种新型卷积层WTConv，它利用小波变换有效地扩大了卷积神经网络的感受野而不显著增加参数量，从而提升了网络性能。WTConv层可以作为现有CNN架构的直接替代，并在图像分类、语义分割和物体检测等多个计算机视觉任务中展示了其有效性。🌈
YOLO11改进|卷积篇|引入大感受野小波卷积WTConv
A1983Z的博客
10-21 1327
YOLO11中引入大感受野小波卷积WTConv
WTConv：为大型感受野带来革命性的小波卷积技术
gitblog_00257的博客
03-27 372
WTConv：为大型感受野带来革命性的小波卷积技术 WTConv Wavelet Convolutions for Large Receptive Fields. ECCV 2024. 项目地址: https://gitcode....
大感受野的小波卷积WTConv助力YOLOv11
m0_53148408的博客
10-28 1326
WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少一定参数量和计算量，达到一个可观的轻量化作用（这种小波Conv对于目前的创新角度来说是非常流行的）。三、核心代码。
YOLOv10改进 | Conv篇 | YOLOv10引入AKConv（轻量）
tsg6698的博客
06-11 6097
很明显，不同数据集和不同位置的目标的形状和大小是不同的。针对上述问题，本工作探索了可改变核卷积（AKConv），它赋予卷积核任意数量的参数和任意采样形状，为网络开销和性能之间的权衡提供更丰富的选择。简单介绍:本文给大家带来的改进内容是AKConv是一种创新的变核卷积，它旨在解决标准卷积操作么中的固有缺陷(采样形状是固定的)，AKConv的核心思想在于它为卷积核提供了任意数量的参数和任意采样形状，能够使用任意数量的参数(如1,2,3,4,5,6,7等)来提取特征，这在标准卷积和可变形卷积中并未实现。
[Base]WTConv-Wavelet Convolutions for Large Receptive Fields
天下事有难易乎？为之，则难者亦易矣；不为，则易者亦难矣。人之为学有难易乎？学之，则难者亦易矣；不学，则易者亦难矣。
08-20 1961
证明了利用小波变换( Wavelet Transform，WT )，实际上可以获得非常大的感受野而不受过参数化的影响，例如，对于一个k × k的感受野，所提出的方法中可训练参数的数量只与k成对数增长。所提出的WTConv层可以作为现有架构中的直接替换。
WTConv 使用教程
最新发布
gitblog_00770的博客
04-07 894
WTConv 使用教程 WTConv Wavelet Convolutions for Large Receptive Fields. ECCV 2024. 项目地址: https://gitcode.com/gh_mirrors...
【Block总结】WTConv，小波变换（Wavelet Transform）来扩展卷积神经网络（CNN）的感受野
m0_47867638的博客
01-20 1294
论文《WaveletConvolutionsforLargeReceptiveFields》提出了一种新型卷积层，称为WTConv（WaveletTransformConvolution），旨在通过小波变换（WaveletTransform）来扩展卷积神经网络（CNN）的感受野。该方法能够在不显著增加参数数量的情况下，获得接近全局的感受野，从而提高模型对低频信息的捕捉能力。
YOLOv11改进 | Conv/卷积篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv11有效涨点（二次创新C3k2）
Snu77的博客
11-05 1790
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少百分之十的参数量和计算量，达到一个可观的轻量化作用。
YOLOv11改进 | Conv/卷积篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv11有效涨点
Snu77的博客
10-13 4193
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少一定参数量和计算量，达到一个可观的轻量化作用。
基于WTC+transformer时间序列组合预测模型（Python完整源码和数据）
10-13
WTC+transformer时间序列组合预测模型，创新点，超级新。先发先得，高精度代码。 WTC卷积机制是2024年7月15日发表的卷积结构（热乎的超级新，新的不能在新了）。人们尝试通过增加卷积神经网络Q(CNN)内核的大小来模拟视觉变换器(VITs)自注意力模块的全局感受野。然而，这种方法很快就遇到了上限，并在达到全局感受野之前就已饱和。 原来WTC卷积是用来做图像的，本代码尝试将它转移用到时间序列中，二维转一维，利用WTC卷积进行特征提取，将提取的结果放入transformer进行预测，预测结果非常不错！python代码,pytorch架构 适合功率预测，风电光伏预测，负荷预测，流量预测，浓度预测，机械领域预测等等各种时间序列直接预测。 1.多变量输入，单变量输出 2.多时间步预测，单时间步预测，多指标。代码自带数据，一键运行，xlsx文件读取数据，也可以替换自己数据集很简单。
YOLOv8改进 | Conv篇 | 2024最新ECCV最新大感受野的小波卷积WTConv创新C2f（附代码 + 修改教程）
Snu77的博客
10-12 4168
官方论文地址点击此处即可跳转官方代码地址点击此处即可跳转这篇名为《用于大感受野的小波卷积》的文章提出了一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，而传统的CNN主要只能处理局部特征。以下是文章的主要内容总结：1. 问题背景：传统的CNN受限于卷积核的大小，难以有效捕捉全局上下文信息。
YOLOv5改进 | Conv篇 | 2024最新ECCV最新大感受野的小波卷积WTConv助力YOLOv5有效涨点
Snu77的博客
10-12 1090
​官方论文地址点击此处即可跳转官方代码地址点击此处即可跳转​这篇名为《用于大感受野的小波卷积》的文章提出了一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，而传统的CNN主要只能处理局部特征。以下是文章的主要内容总结：1. 问题背景：传统的CNN受限于卷积核的大小，难以有效捕捉全局上下文信息。
WTConv：大感受野的小波卷积
m0_62953704的博客
07-31 3576
我们能否利用信号处理工具来有效地增加卷积的感受野，而不会受到过度参数化的影响？换句话说，我们可以拥有非常大的过滤器（例如，具有全局感受野）并且仍然可以提高性能吗？本文对这个问题给出了肯定的答案。本文提出的方法利用小波变换（Wavelet Transform, WT）来使卷积感受野很好地放大，并通过级联引导CNN更好地响应低频。在某种程度上，本文将解决方案基于小波变换（与傅里叶变换等不同）的动机是它保留了一些空间分辨率。这使得小波域中的空间运算（例如卷积）更有意义。
YOLOv8改进，YOLOv8采用WTConv卷积（感受野的小波卷积），二次创新C2f结构，ECCV 2024
在职AI算法工程师，擅长计算机视觉，YOLO目标检测、分割等，擅长web、pyqt界面可视化，好内容持续更新中，来这里跟大家一起学习，共同进步
10-22 899
WTConv 的核心思想是通过结合卷积神经网络（CNN）的强大特征提取能力与小波变换的多尺度特性，来实现大感受野的卷积操作，同时避免传统大卷积核带来的参数爆炸问题。传统的卷积操作通过滑动小窗口在图像上逐步执行局部特征提取，感受野的大小直接取决于卷积核的尺寸。随着卷积核的增大，参数量呈指数增长，导致网络训练效率降低、计算资源消耗增加。为解决这些问题，WTConv 提出了在小波域中执行卷积操作的策略。小波变换是一种常用于信号处理的技术，能够将信号分解为不同频率成分。
WTConv 项目安装与配置指南
gitblog_00376的博客
04-07 765
WTConv 项目安装与配置指南 WTConv Wavelet Convolutions for Large Receptive Fields. ECCV 2024. 项目地址: https://gitcode.com/gh_mi...
YOLOv11改进-卷积-引入小波卷积WTConv 解决多尺度小目标问题
qq_64693987的博客
10-18 8616
1.首先，WTConv利用二维Haar小波变换对输入图像进行多级分解。低频分量 (LL)：捕捉图像的低频信息，如整体形状或轮廓。水平高频分量 (LH)：捕捉图像中的水平边缘信息。垂直高频分量 (HL)：捕捉图像中的垂直边缘信息。对角线高频分量 (HH)：捕捉图像的对角线细节。在每一级的小波变换中，图像被下采样（空间分辨率减半），但频率信息得到了更细的分解。递归地执行小波变换（称为多级分解）可以得到不同尺度下的频率分量。
Pointnet++改进即插即用系列：全网首发WTConv2d大接受域的小波卷积|即插即用，提升特征提取模块性能
AIcurator的博客
07-20 3284
近年来，人们一直试图增加卷积神经网络(cnn)的核大小，以模拟视觉变形者(ViTs)的全局接受场自注意块。然而，这种方法在达到全局接受场之前很快就达到了上限和饱和。在这项工作中，我们证明了通过利用小波变换(WT)，实际上可以在不受过度参数化影响的情况下获得非常大的接受域，例如，对于k × k的接受域，所提出的方法中可训练参数的数量仅随k呈对数增长。所提出的层，称为WTConv，可以用作现有架构中的临时替代品，产生有效的多频响应。并随着接受野的大小优雅地缩放。
小波卷积WTConv
03-08
### 小波卷积 (WTConv) 的算法原理 小波变换作为一种多分辨率分析工具，在信号处理领域有着广泛应用。当应用于图像数据时，可以有效捕捉不同尺度下的特征[^1]。具体来说，WTConv 利用了离散小波变换（DWT）来扩展传统卷积操作的感受野范围，从而使得每一层都能获取更大范围内的上下文信息。 对于 WTConv 来说，其实现过程主要包括两个阶段： 1. **前向传播**：输入图片先经过一次或多级 DWT 处理得到低频子带以及高频细节分量；接着针对每个频率通道分别执行标准 CNN 卷积运算； 2. **反向传播**：损失函数梯度沿原路径回传至各层权重更新之前需逆向重建原始尺寸大小的误差图谱用于指导参数调整[^2]。 这种设计不仅继承了经典CNN架构的优点，而且借助于小波分解特性增强了模型提取复杂模式的能力。 ### 应用场景 WTConv 已经被证明可以在多种计算机视觉任务上取得良好表现，尤其是在那些需要较大感受野的任务中更为突出。例如目标检测方面，《大感受野的小波卷积》一文中提到使用 WTConv 替换 YOLOv8 中的标准 Conv 层后可以获得更好的识别精度提升[^3]。另外，在语义分割任务里也观察到了 mIoU 指标的显著改善——相较于基线方法提升了约 0.3%-0.6% 不等[^4]。 ### 实现方式与深度学习框架支持 目前主流的深度学习平台如 PyTorch 和 TensorFlow 均提供了相应接口或者第三方库可以直接调用来构建基于 WTConv 的神经网络结构。特别是 Python 社区活跃贡献者们已经开源了不少高质量项目实现了上述功能，比如 `torch_wavelets` 或者 `pywt` 等包可以帮助开发者快速搭建实验环境并开展研究工作。 ```python import torch.nn as nn from pytorch_wavelets import DWTForward, DWTInverse class WTConv(nn.Module): def __init__(self, in_channels, out_channels, kernel_size=3, stride=1, padding=1): super(WTConv, self).__init__() self.dwt = DWTForward(J=1, mode='zero', wave='db1') self.conv_low = nn.Conv2d(in_channels=in_channels * 4, out_channels=out_channels // 4, kernel_size=kernel_size, stride=stride, padding=padding) ... def forward(self, x): yl, yh = self.dwt(x) ... ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值