RT-DETR改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点

已于 2025-06-10 08:52:11 修改
阅读量1k 收藏 3
点赞数
CC 4.0 BY-SA版权
分类专栏： RT-DETR改进专栏 文章标签： RT-DETR 深度学习 计算机视觉 目标检测
于 2024-11-26 16:36:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_42591591/article/details/144057229

一、本文介绍

本文记录的是利用小波卷积WTConv模块优化RT-DETR的目标检测网络模型。WTConv的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了CNN在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新，使模块更好地捕捉低频特征，增强网络性能。

专栏目录：RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

专栏地址：RT-DETR改进专栏——以发表论文的角度，快速准确的找到有效涨点的创新点！

文章目录

二、小波卷积WTConv介绍

Wavelet Convolutions for Large Receptive Fields

2.1 出发点

  • 解决卷积核增大的问题：在卷积神经网络（CNNs）中，为了模仿视觉Transformer（ViTs）自注意力块的全局感受野，尝试增加卷积核大小，但这种方法在达到全局感受野之前就遇到了上限并饱和，且会导致过参数化。
  • 利用信号处理工具：思考能否利用信号处理工具在不出现过参数化的情况下有效地增加卷积的感受野，从而提出利用小波变换（Wavelet Transform，WT）来解决该问题。

在这里插入图片描述

2.2 原理

2.2.1 基于小波变换的卷积操作

  • 小波变换的卷积表示：采用Haar小波变换（Haar WT），它在一个空间维度（宽度或高度）上的一级变换可通过特定的深度卷积核和下采样操作实现。例如，在2D情况下，使用一组特定的四个滤波器进行深度卷积操作，这些滤波器包括一个低通滤波器
了解本专栏 订阅专栏 解锁全文
【RT-DETR有效改进】2024最新ECCV最新大感受野的小波卷积WTConv二次创新RepC3
Snu77的博客
10-13 3124
本文给大家带来的改进机制是一种新的卷积层，称为WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新RT-DETR中的RepC3机制可以减少参数量和计算量，达到一个可观的轻量化作用。
RT-DETR改进策略【RT-DETR和Mamba】| CVPR 2025：EfficientViM 压缩隐藏状态空间进行通道混合、单头设计减少内存操作，提升目标检测效率与精度
Limiiiing的博客
08-25 461
本文记录的是利用模块优化的目标检测网络模型。EfficientViM Block（基于隐藏状态混合器的状态空间对偶性模块） 的设计旨在，提升特征提取效率，同时兼顾全局依赖捕捉与局部细节保留。本文将深入研究的原理，并将其应用到中，通过重构特征提取流程、减少内存绑定操作、融合多阶段特征，增强模型在资源受限环境下的检测性能与速度。Depth Information Assisted Collaborative Mutual Promotion Network for Single Image DehazingLE
【RT-DETR涨点改进】小目标检测、特征融合改进篇 | TGRS 2024 | RT-DETR引入CSFM上下文选择融合模块，适合多模态检测、红外小目标检测、小目标检测、遥感目标检测等任务有效涨点
最新发布
Ai缝合怪、助力小伙伴高效发论文
10-21 401
本文提出了一种改进RT-DETR目标检测模型的方法，通过引入上下文选择融合模块（CSFM）显著提升复杂背景下小目标和低对比度目标的检测精度。CSFM模块采用多尺度特征融合和动态特征选择机制，有效增强模型的全局上下文感知能力，同时保留细节特征。该模块通过通道减少机制和空间信息调节，实现从粗到细的特征聚合，减少误报并提高轮廓检测精度。实验表明，改进后的RT-DETR模型在多个基准测试中表现优异，计算效率与检测精度均优于现有方法。文章还详细介绍了模块配置和yaml文件修改方法，为模型部署提供指导。
WTConv：大感受野的小波卷积
m0_62953704的博客
07-31 4054
我们能否利用信号处理工具来有效地增加卷积的感受野，而不会受到过度参数化的影响？换句话说，我们可以拥有非常大的过滤器（例如，具有全局感受野）并且仍然可以提高性能吗？本文对这个问题给出了肯定的答案。本文提出的方法利用小波变换（Wavelet Transform, WT）来使卷积感受野很好地放大，并通过级联引导CNN更好地响应低频。在某种程度上，本文将解决方案基于小波变换（与傅里叶变换等不同）的动机是它保留了一些空间分辨率。这使得小波域中的空间运算（例如卷积）更有意义。
即插即用篇 | YOLOv8 引入大感受野的小波卷积 | ECCV2024
YOLOv8项目贡献者
07-15 5759
即插即用篇 | YOLOv8 引入大感受野的小波卷积 | ECCV2024
卷积篇 | WTConv：小参数大感受野，基于小波变换的新型卷积 | ECCV 2024
小哥谈
11-25 1381
文章介绍了一种名为WTConv的新型卷积层，它利用小波变换（WT）来增加卷积神经网络（CNNs）的感受野，而无需大幅增加可训练参数的数量。🌈
YOLOv11改进-卷积-引入小波卷积WTConv 解决多尺度小目标问题
qq_64693987的博客
10-18 1万+
1.首先，WTConv利用二维Haar小波变换对输入图像进行多级分解。低频分量 (LL)：捕捉图像的低频信息，如整体形状或轮廓。水平高频分量 (LH)：捕捉图像中的水平边缘信息。垂直高频分量 (HL)：捕捉图像中的垂直边缘信息。对角线高频分量 (HH)：捕捉图像的对角线细节。在每一级的小波变换中，图像被下采样（空间分辨率减半），但频率信息得到了更细的分解。递归地执行小波变换（称为多级分解）可以得到不同尺度下的频率分量。
大感受野的小波卷积WTConv助力YOLOv11
m0_53148408的博客
10-28 2003
WTConv（小波卷积层），它利用小波变换（WT）来解决卷积神经网络（CNN）在实现大感受野时遇到的过度参数化问题。WTConv的主要目的是通过对输入数据的不同频率带进行处理，使CNN能够更有效地捕捉局部和全局特征，WTConv成功解决了CNN在感受野扩展中的参数膨胀问题，提供了一种更为高效、鲁棒且易于集成的卷积层解决方案，我将其用于二次创新YOLOv11中的C3k2机制可以减少一定参数量和计算量，达到一个可观的轻量化作用（这种小波Conv对于目前的创新角度来说是非常流行的）。三、核心代码。
【RT-DETR涨点改进】独家Conv改进篇 | ECCV 2024 | RT-DETR引入WTConv小波卷积, 能够更有效地捕捉局部和全局特征, 助力高效涨点
Ai缝合怪、助力小伙伴高效发论文
09-18 147
本文提出了一种基于小波变换的WTConv卷积优化方法，用于改进RT-DETR模型。WTConv通过小波分解实现大感受野，同时保持参数效率，在ImageNet分类、语义分割和目标检测任务中表现出性能提升。该方法增强了模型对图像损坏的鲁棒性和形状偏置。文章详细介绍了WTConv模块的设计原理、核心代码实现，并提供了5种不同架构的改进方案（如rtdetr-r18-BasicBlock_WTConv.yaml等），展示了如何将WTConv整合到现有模型中。实验结果表明，WTConv能有效提升模型性能，且计算成本较低
RT-DETR改进有效系列目录 | 包含卷积、主干、RepC3、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
01-29 2万+
Hello，各位读者们好Hello，各位读者，距离第一天发RT-DETR的博客已经过去了接近两个月，这段时间里我深入的研究了一下RT-DETR在ultralytics仓库的使用，旨在为大家解决为什么用v8的仓库训练的时候模型不收敛，精度差的离谱的问题，我也是成功的找到了解决方案，对于ultralytics仓库进行多处改进从而让其还原RT-DETR官方的实验环境从而达到一比一的效果。同时本人一些讲解视频和包含我所有创新的RT-DETR文档。
RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
12-03 1万+
1️⃣本专栏已更新150多种不同的改进方法，所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程，所有改进100%可直接运行。2️⃣所有改进点均为近三年顶会，顶刊提出的先进算法，将其融入到中，紧跟学术热点，适应不同的任务场景。3️⃣团队内发表数篇SCI论文，熟悉完整的发表流程，订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊，从入门到论文的各种答疑内容。4️⃣专栏内容会持续更新，最近更新时间：2024-12-4。项目介绍在大家购买专栏后，加入学习
YOLOv11改进策略【卷积层】| ECCV-2024 小波卷积WTConv 增大感受野，降低参数量计算量，独家创新助力涨点
Limiiiing的博客
10-18 2731
本文记录的是利用模块优化的目标检测网络模型。WTConv的目的是在不出现过参数化的情况下有效地增加卷积的感受野，从而解决了在感受野扩展中的参数膨胀问题。本文将其加入到深度可分离卷积中，有效降低模型参数量和计算量，并二次创新C3k2，使模块更好地捕捉低频特征，增强网络性能。Wavelet Convolutions for Large Receptive Fields小波卷积及其改进的实现代码如下： 四、创新模块 4.1 改进点1⭐ 模块改进方法：加入（第五节讲解添加步骤）。添加后如下：基于的深度可分离模块。
小波卷积：为计算机视觉任务开辟新的参数效率之路
weixin_73040764的博客
08-24 1万+
论文成功地利用小波变换（WT）提出了WTConv层，这是一种新的CNN层，能够在不大幅增加参数的情况下显著增加感受野。WTConv层通过在小波域中进行卷积操作，实现了对输入数据的多频率响应，这使得网络能够更好地捕捉低频信息，从而提高了对形状的敏感性，并增强了网络的鲁棒性。实验结果表明，WTConv层在多个视觉任务中都取得了性能提升，证明了其有效性。
小波卷积网络Multi-level Wavelet-CNN for Image Restoration论文阅读笔记
import_torch_as_tf
09-30 1万+
论文链接：Multi-level Wavelet-CNN for Image Restoration | IEEE Conference Publication | IEEE Xplorex​​​​​​​x 论文来源：CVPRW2018 项目地址：GitHub - lpj0/MWCNN: Multi-level Wavelet-CNN for Image Restoration（matlab）GitHub - lpj-github-io/MWCNNv2: Multi-level Wavelet Conv
YOLO即插即用---小波卷积
llz19670的博客
10-31 2586
论文地址：2407.05848。
又一篇CCF-A！小波卷积发顶会，看这32个idea就够了！
Aimoxin111的博客
03-20 1074
例如，在ECL数据集上，WFTNet的MSE为0.164，MAE为0.267，优于TimesNet的0.167和0.271，以及其他方法如ETSformer、DLinear、FEDformer和Autoformer。参数复杂度降低：通过将特征变换与图卷积分离，将参数复杂度从O(n×p×q)降低到O(n+p×q)，其中n是节点数，p是每个顶点的特征数，q是下一个层中每个顶点的特征数。多尺度卷积：在不同尺度的小波分解特征上进行卷积操作，每个卷积核专注于输入的不同频率带，从而在更大的感受野中强调低频信息。
大感受野的小波卷积
AI浩
10-24 2651
摘要。近年来，人们尝试增大卷积神经网络（CNNs）的核大小，以模仿视觉转换器（ViTs）自注意力模块的全局感受野。然而，这种方法很快便达到了上限，并且在实现全局感受野之前就饱和了。在本文中，我们证明了通过利用小波变换（WT），实际上可以在不遭受过度参数化的情况下获得非常大的感受野，例如，对于k×kk \times kk×k感受野，所提出方法中可训练参数的数量仅随kkk对数增长。所提出的层，命名为WTConv，可以作为现有架构中的即插即用替代品，产生有效的多频响应，并且随着感受野大小的增加而优雅地扩展。我们证
Pointnet++改进即插即用系列：全网首发WTConv2d大接受域的小波卷积|即插即用，提升特征提取模块性能
AIcurator的博客
07-20 3418
近年来，人们一直试图增加卷积神经网络(cnn)的核大小，以模拟视觉变形者(ViTs)的全局接受场自注意块。然而，这种方法在达到全局接受场之前很快就达到了上限和饱和。在这项工作中，我们证明了通过利用小波变换(WT)，实际上可以在不受过度参数化影响的情况下获得非常大的接受域，例如，对于k × k的接受域，所提出的方法中可训练参数的数量仅随k呈对数增长。所提出的层，称为WTConv，可以用作现有架构中的临时替代品，产生有效的多频响应。并随着接受野的大小优雅地缩放。
【YOLOv9改进[Conv]】使用基于Haar的小波变换Down_wt处理替换模型结构中的Conv和ADown 实践
静谧、淡雅
04-30 1034
YOLOv9改进:使用基于Haar的小波变换Down_wt处理替换模型结构中的Conv和ADown 实践
rt-detr改进策略
08-24
### RT-DETR模型改进策略与性能优化 RT-DETR是一种高效的端到端目标检测模型，其核心优势在于结合了Transformer架构的灵活性与高效性，同时引入了多种优化机制，例如Hybrid Encoder、Deformable Attention、自适配...
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Limiiiing

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值