本系列主要介绍傅里叶变换和离散傅里叶变换的概念及理解,文本为该系列第三篇
离散傅里叶变换
离散傅里叶变换做的是一件什么事呢,是对一段有限长的离散信号,找出它含有的各个频率的正弦波分量。
接着上一篇的取样,如果取样后函数为f~(t)\widetilde{f}(t)f(t),其傅里叶变换为F~(μ)\widetilde{F}(\mu)F(μ),上一篇说到F~(μ)\widetilde{F}(\mu)F(μ)和原函数的傅里叶变换F(μ)F(\mu)F(μ)之间的关系,下面我们从另一个角度来看F~(μ)\widetilde{F}(\mu)F(μ)
F~(μ)=∫−∞∞f~(t)e−j2πμtdt=∫−∞∞Σn=−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞∫−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞fne−j2πμnΔT\widetilde{F}(\mu)=\int_{-\infty}^{\infty}\widetilde f(t)e^{-j2\pi \mu t}dt=\int_{-\infty}^{\infty}\Sigma_{n=-\infty}^{\infty} f(t)\delta(t-n\Delta T)e^{-j2\pi \mu t}dt=\Sigma_{n=-\infty}^{\infty}\int_{-\infty}^{\infty} f(t)\delta(t-n\Delta T)e^{-j2\pi \mu t}dt=\Sigma_{n=-\infty}^{\infty}f_ne^{-j2\pi \mu n\Delta T}F(μ)=∫−∞∞f(t)e−j2πμtdt=∫−∞∞Σn=−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞∫−∞∞f(t)δ(t−nΔT)e−j2πμtdt=Σn=−∞∞fne−j2πμnΔT
其中∫−∞∞f(t)δ(t−nΔT)dt=fn=f(nΔT)\int_{-\infty}^{\infty} f(t)\delta(t-n\Delta T)dt=f_n=f(n\Delta T)∫−∞∞f(t)δ(t−nΔT)dt=fn=f(nΔT)
正如上一篇所说,F~(μ)\widetilde{F}(\mu)F(μ)为周期函数,我们通过对一个周期进行采样来描述F~(μ)\widetilde{F}(\mu)F(μ)的一个周期,相当于F(μ)F(\mu)F(μ)。假设我们在μ=0\mu=0μ=0到μ=1/ΔT\mu=1/\Delta Tμ=1/ΔT之间得到M个等间距的样本,即依次在μ=mMΔT,m=0,1,2,…,M−1\mu=\frac{m}{M\Delta T},m=0,1,2,\dots,M-1μ=MΔTm,m=0,1,2,…,M−1处采样,得到F(m)=Σn=0M−1fne−j2πmn/MF(m)=\Sigma_{n=0}^{M-1}f_ne^{-j2\pi mn/M}F(m)=Σn=0M−1fne−j2πmn/M,同时离散傅里叶反变换为fn=1MΣm=0M−1Fmej2πmn/Mf_n = \frac{1}{M}\Sigma_{m=0}^{M-1}F_me^{j2\pi mn/M}fn=M1Σm=0M−1Fmej2πmn/M
所以其实可以发现,DFT所做的只是选取了在给定长度MMM内振动了整数个周期的正弦和余弦波作为基,每个正弦余弦波的周期为2π2πm/M=Mm\frac{2\pi}{2\pi m/M}=\frac{M}{m}2πm/M2π=mM,即在给定长度MMM内,振动了mmm个周期。
上面的F(m)F(m)F(m)也可以理解成在所有采样点处得到的[f0,f1,…,fM−1][f_0, f_1, \dots, f_{M-1}][f0,f1,…,fM−1]与频率为2πm/M2\pi m/M2πm/M的基的内积或者相关性。
傅里叶变换与深度学习之间的关系
(1)深度学习在学习的时候是先去学目标函数的低频成分,再逐渐去学目标函数的高频成分
(2)early stopping:如果目标函数在频率空间低频占优,在学好低频的规律之后,可以及时防止去学高频的噪声成分,防止测试误差的上升,泛化性能的下降
参考资料:
《数字图像处理》第三版
上交课程《统计计算与机器学习》
https://www.zhihu.com/question/21314374