频域变换与卷积网络结合

最新推荐文章于 2025-01-11 22:39:51 发布
最新推荐文章于 2025-01-11 22:39:51 发布
阅读量3.1k 收藏 23
点赞数 1
分类专栏： 论文
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/ptgood/article/details/100092825
版权
本文探讨了将频域变换，尤其是小波变换，与卷积神经网络（CNN）结合的方法，以提高模型准确性和减少参数数量。作者指出CNN可以视为低配版的多分辨率分析，并尝试证明这一观点。通过引入小波变换，可以在纹理分类和图像注释任务中取得良好效果。此外，文中提到了其他研究，如Wavelet-SRNet用于人脸超分辨率重建和去噪应用，以及频域分析在部件缺陷检测中的应用。谷歌的研究从频域角度分析模型稳健性，为理解图像变换对算法影响提供了新视角。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

之所以寻找相关文章是因为Drop an Octave:...(即提出Octave)这篇文章提出它的Octave这个方法提高准确度原理是提取高低频后压缩冗余的低频信息(这篇文章很多人diss),导师看到这个后想到用频域变换的方法提取高低频,再与神经网络结合.

首先想到的是小波变换,有https://www.researchgate.net/publication/325311622_Wavelet_Convolutional_Neural_Networks此文章,目前2019年8月27日10:12:01是preprint状态,作者是东京大学的,

提出CNN是低配版的多分辨率分析(multiresolution analysis),并证明了为什么是低配版的,然后将小波变换与CNN相结合,并在纹理分类和image annotation任务上分别做了实验

网络结构图,在小波变换与神经网络连接中模仿denseNet的连接,并使用了projection shortcuts(出处为Resnet原文)

作者阐述了传统特征的一个好处:可控性强,而CNN性能很强缺更多像一个黑箱;作者证明convolution是limited form of multiresolution analysis,证明了CNN是没有characteristic hierarchical decomposition的滤波器,具体见原文;且不能训练CNN去拟合wavlet transform运算,因为CNN难以从数据里近似学习到小波变换里的滤波器不变的参数

用频域分析的方法结合CNN对比CNN能减少参数且提高准确率

&#

最低0.47元/天 解锁文章
GNN-频域-2016：Learning Convolutional Neural Networks for Graphs
u013250861的博客
11-13 426
《原始轮：Learning Convolutional Neural Networks for Graphs》
频域卷积：突破传统计算瓶颈
最新发布
2501_90976089的博客
03-05 628
传统卷积操作在处理大尺寸卷积核和高分辨率图像时效率低下，成为卷积神经网络性能提升的主要瓶颈。频域卷积通过傅里叶变换将空间域操作转换为频域操作，显著提高了计算效率，尤其适用于大尺寸图像和大卷积核。频域卷积不仅降低了计算复杂度和内存消耗，还允许模型在单个卷积层中捕捉全局信息，从而提升了卷积神经网络的性能。傅里叶变换的卷积定理为频域卷积提供了理论基础，通过快速傅里叶变换（FFT），卷积操作的计算复杂度从O(N²)降低到O(N log(N))，且卷积核的大小对计算时间的影响几乎可以忽略。频域卷积在处理大尺寸卷积核时
Graph Convolutional Neural Network - Spectral Convolution 图卷积神经网络 — 频域卷积详解
Jay_Tang的博客
08-24 2809
Fourier Transform Virtually everything in the world can be described via a waveform - a function of time, space or some other variable. For instance, sound waves, the price of a stock, etc. The Fourier Transform gives us a unique and powerful way of viewin
如何从频域的角度解释CNN（卷积神经网络）？
深度学习与计算机视觉
11-07 3433
链接：https://www.zhihu.com/question/59532432/answer/1510340606编辑：深度学习与计算机视觉声明：仅做学术分享，侵删时域卷积=频域乘...
【CVPR2020】网络结构：GhostNet/频域卷积/Pi-Net
qq_43257640的博客
05-26 1832
轻量网络：GhostNet Intuition 1， CNN的特征图往往含有冗余的信息 2，冗余的信息可能是网络表现好的关键 3，这些冗余的信息可以通过更简单的计算得到 下图列举了三组相似的特征图，每组两张。可以通过简单的线性计算使其中一张特征图转换为另一张 Network 设s张特征图可以分为一组。则每组只需一张特征图(暂称为标准特征图)由普通的方式得到，其他的可以用这一张特征图再做卷积(不带激活层)得到。 设输入特征图c×h×wc\times h \times wc×h×w,输出特征图n×h′×w′
当频域（DCT）遇见CNN
阿木寺的博客
02-03 3002
点击上方“CVer”，选择加"星标"置顶重磅干货，第一时间送达本文作者：简单控| 来源：知乎（已授权）https://zhuanlan.zhihu.com/p/3429...
频域盲解卷积_盲源分离_频域盲解卷积_解卷积_
09-29
总的来说，频域盲解卷积结合盲源分离提供了一种强大的工具，能够处理复杂环境下的信号恢复问题。通过这些算法，即使在存在噪声和未知系统响应的情况下，也能实现对信号的有效解卷积和源分离。而具体实现的细节，包括...
频域自适应空洞卷积FADC详解
hasakie的博客
01-11 1384
通过FADC的自适应膨胀率机制，模型能够根据目标的大小和复杂度动态调整感受野，从而在保持计算效率的同时，最大化检测准确性。这是因为自适应膨胀率能够根据不同位置的特征需求，灵活调整感受野的大小，从而在保持计算效率的同时，最大化模型的表征能力。通过这种方式，AdaKern模块成功地平衡了有效带宽和感受野大小之间的矛盾，为FADC在各种复杂的视觉任务中取得了优异性能奠定了坚实的基础。这种创新的设计不仅提高了模型的表征能力，还为计算机视觉领域提供了一种新的思路，有望推动更多高性能、低延迟的视觉模型的开发。
小波变换与卷积神经网络结合在图像去噪中的效果评估
在本章中，我们将探讨小波变换和卷积神经网络结合在图像去噪中的效果评估。首先，我们会介绍背景和研究动机，为什么将小波变换和卷积神经网络结合应用于图像去噪。然后，我们会概述本文的结构，展示接下来各章节的...
基于短时傅里叶变换和卷积神经网络的轴承故障诊断方法.pdf
09-26
该方法通过结合短时傅里叶变换和卷积神经网络，实现了对轴承故障的高效诊断。 短时傅里叶变换 短时傅里叶变换（Short-Time Fourier Transform，STFT）是一种时频分析方法，通过将信号分割成小块然后进行傅里叶变换...
HOSA_Octave:Octave 的高阶频谱分析工具箱
06-15
HOSA_Octave Octave 的高阶频谱分析工具箱
离散小波变换快速卷积算法研究 (2013年)
05-25
传统的离散小波变换(Discrete Wavelet Transform，DWT)卷积算法通常采用延拓方法来解决边界效应，处理速度会受到一定影响。为了进一步提高使用DWT的实时性，提出一种新的离散卷积快速实现算法。该方法利用前后端卷积结果对边界小波系数进行校正，有效地解决了卷积运算中的边界效应问题，并减少了计算量。仿真试验和工程应用结果表明该算法能用于分析平稳信号和非平稳信号，具有很高的分解和重构精度以及很好的边界处理性能，并且计算速度比传统方法有较大提高，具有显著的工程应用价值。
《Multi-Level Wavelet Convolutional Neural Networks》阅读笔记
69小石头的博客
05-16 6485
一、论文 《Multi-Level Wavelet Convolutional Neural Networks》 摘要：在计算机视觉中，卷积网络（CNN）通常采用合并来扩大接收域，其优点是计算复杂度低。 但是，合并可能导致信息丢失，因此不利于进一步的操作，例如特征提取和分析。 最近，已经提出了扩张滤波器来在接收场大小和效率之间进行折衷。 但是，伴随的网格化效果可能导致对具有棋盘格图案的输入图像进行稀疏采样。 为了解决这个问题，在本文中，我们提出了一种新颖的多级小波CNN（MWCNN）模型，以在接收场大小
小波神经网络的基本原理,小波神经网络算法原理
神器榜
09-06 1478
小波神经网络（Wavelet Neural Network， WNN）是在小波分析研究获得突破的基础上提出的一种人工神经网络。它是基于小波分析理论以及小波变换所构造的一种分层的、多分辨率的新型人工神经网络模型。即用非线性小波基取代了通常的非线性Sigmoid 函数，其信号表述是通过将所选取的小波基进行线性叠加来表现的。它避免了BP 神经网络结构设计的盲目性和局部最优等非线性优化问题，大大简化了训练，具有较强的函数学习能力和推广能力及广阔的应用前景。
时域卷积定理及频域卷积定理
热门推荐
November、Chopin
09-29 4万+
时域卷积定理和频域卷积定理及证明
GNN-频域-2014：Spectral Networks and Locally Connected Networks on Graphs（频谱图卷积神经网络）【第一篇从频域角度分析】
u013250861的博客
10-31 1323
空域卷积非常直观地借鉴了图像里的卷积操作，但缺乏一定的理论基础。而频域卷积则不同，相比于空域卷积而言，它主要利用的是**图傅里叶变换(Graph Fourier Transform)**实现卷积。简单来讲，它利用图的**拉普拉斯矩阵(Laplacian matrix)**导出其频域上的的拉普拉斯算子，再类比频域上的欧式空间中的卷积，导出图卷积的公式。虽然公式的形式与空域卷积非常相似，但频域卷积的推导过程却有些艰深晦涩。接下来我们将攻克这部分看起来很难的数学公式，主要涉及到。
浅聊卷积及其应用
m0_63704032的博客
08-22 1104
全连接层全连接层也就是传统的神经网络该做的事了那神经网络又是什么？我感觉他有点像一元的线性回归方程，也类似与非线性回归（但它是针对高阶，又像泰勒展开一样），其实说白了也就是每一个输入都有不同的权重w，然后进行累加，加入偏置b，就得到线性方程y=kx+b。但是神经网络这么高级的东西，怎么可能这么简单，科学家们在后续加入激活函数（也就感知机）加入非线性。我的理解是，如果不加入激活函数，那么。
傅里叶变换与频域卷积解析
"本文介绍了频域卷积和的概念，重点讨论了傅里叶变换在图像处理中的应用，包括一维和二维傅里叶变换的定义、性质以及它们如何揭示信号的频率组成。" 傅里叶变换是一种数学工具，它能够将信号从时域（或空间域）转换...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值