DuHz的博客

小波（Wavelet）技术是当代信号处理与数据分析的重要工具，与傅里叶方法等经典技术相比，小波具有良好的局部时频刻画能力。在稀疏表示、数据压缩、信号去噪等方面都发挥着巨大作用。本文将围绕小波的核心理论及其在稀疏基中的地位展开，并配以相对详细的数学公式。设Vjj∈ZVj​j∈Z​是在L2RL2R⋯⊂V−1⊂V0⊂V1⊂⋯⋯⊂V−1​⊂V0​⊂V1​⊂⋯且⋃j−∞∞Vj⋃j−∞∞​Vj​在。

傅里叶基 (Fourier Basis)是信号处理和压缩感知中最常用的一种稀疏基。当信号的主要能量分布在少量的频率分量上时，其在傅里叶域（频域）往往表现出显著的稀疏性。傅里叶基的核心思想源于用正弦和余弦或复指数函数对信号进行线性组合，从而刻画各种不同频率成分。在离散情形下，我们常用离散傅里叶变换 (DFT)来构造傅里叶基矩阵。该矩阵可以将时域（或空域）信号映射到频域。若频域系数大部分为零或接近零，便体现了信号在该基下的稀疏性。

在压缩感知 (Compressed Sensing, CS)中，为了利用信号的稀疏性 (Sparsity)来实现更少测量情况下的精确或近似重构，我们需要找到一个合适的稀疏基 (Sparse Basis)或者称为字典 (Dictionary)。理想情况下，信号在该基或字典下的表示系数有很少的非零元素（或大部分元素接近 0），从而利于后续的稀疏重构。在信号处理或数学中，一个长度为NNN的离散信号x∈RNx∈RN若可以写成xΦαxΦαΦ∈RN×KΦ∈RN×。

给定一个高维信号（或数据向量）x∈RNx∈RN如果我们可以找到某种方式，用远小于NNN的参数数量来描述或刻画x\mathbf{x}x，那么我们就说x\mathbf{x}x服从某种低维信号模型。形式化一点：若存在d≪Nd \ll Nd≪N，以及一个映射fRd→RNfRd→RN使得对于大多数x\mathbf{x}x（或者所有x\mathbf{x}x）可以写作x≈fθx≈fθ其中θ∈Rdθ∈Rd。

假设有一个NNN维向量xx1x2⋮xN∈RNx​x1​x2​⋮xN​​​∈RN如果仅有K≪NK \ll NK≪N个分量为非零，则称x\mathbf{x}x是KKK-稀疏 (K-sparse)。在实际应用中，很多信号本身并不一定在时域/空域就稀疏，但往往在某个变换域（如傅里叶变换、小波变换、离散余弦变换等）下可以逼近稀疏。例如，令ΨΨ为某个N×NN\times NN×N的可逆(或正交)变换矩阵，令αα为x。

测量矩阵是压缩感知中的“关键魔术”，能用少量测量来完整“感知”到一个高维稀疏信号的主要信息。其核心要求是满足不相干性与RIP，并且尺寸MMM通常与信号的稀疏度KKK密切相关；常见实现包括随机高斯、随机伯努利、部分傅里叶等；在硬件或实际应用中，兼顾存储、计算开销与对稀疏基的“兼容性”，才能发挥测量矩阵在压缩感知中的强大威力。

基本含义：如果一个信号在某个变换域中，只有少量系数非零或接近非零，就称这个信号在该域中是“稀疏的”。举例：一个长度为NNN的向量x\mathbf{x}x，如果只有K≪NK \ll NK≪N个元素是非零（或“足够大”），其他元素接近 0，就可说x\mathbf{x}x在该表示下是稀疏的。

传统的信号采样依赖于奈奎斯特采样定理，要求采样率至少为信号最高频率的两倍。然而，许多实际信号在某个基底下具有稀疏性，即在某个变换域中大部分系数为零或接近于零。压缩感知利用信号的这一特性，通过少量的线性测量即可恢复原始信号。稀疏性：信号在某个基底下具有稀疏表示。测量矩阵的适当性质：测量矩阵需满足某些条件，如稀疏展开性质，以确保信号的稀疏结构在测量过程中不被破坏。压缩感知不仅减少了数据采集和存储的开销，还在许多应用中提高了处理效率，如医学成像、无线通信、图像压缩等。

压缩感知（Compressed Sensing, CS）是一种突破性的信号处理技术，它能够在远低于奈奎斯特采样定理所要求的采样率下，对信号进行有效采样和重构。压缩感知的理论基础包括多个核心概念，其中零空间属性（Null Space Property, NSP）是确保信号可重构性的重要条件之一。本文将对NSP进行详尽的解析，涵盖其定义、数学表述、性质、验证方法及在压缩感知中的具体应用，旨在帮助读者全面理解NSP在压缩感知中的关键作用。

传统的信号采样依赖于奈奎斯特采样定理，要求采样率至少为信号带宽的两倍。然而，许多实际信号在某个基底下具有稀疏性，即在某个变换域中大部分系数为零或接近于零。压缩感知利用信号的这一特性，通过少量的线性测量即可恢复原始信号。稀疏性：信号在某个基底下具有稀疏表示。测量矩阵的适当性质：测量矩阵需满足某些条件，如互相关性，以确保信号的稀疏结构在测量过程中不被破坏。压缩感知不仅减少了数据采集和存储的开销，还在许多应用中提高了处理效率，如医学成像、无线通信、图像压缩等。互相关性是衡量字典中不同列向量之间相似程度的指标。

传统的信号采样依赖于奈奎斯特定理，要求采样率至少为信号最高频率的两倍。然而，许多实际信号在某个基底下具有稀疏性，即大部分系数为零或接近于零。压缩感知利用信号的这一特性，通过少量的线性测量即可恢复原始信号。稀疏性：信号在某个基底下具有稀疏表示。测量矩阵的RIP性质：测量矩阵需满足限制等距性，以确保信号的稀疏结构在测量过程中不被破坏。压缩感知不仅减少了数据采集和存储的开销，还在许多应用中提高了处理效率，如医学成像、无线通信、图像压缩等。

传统的采样方法依赖于奈奎斯特采样定理，即采样频率必须至少是信号带宽的两倍。而压缩感知利用信号在某一基下的稀疏性，通过随机测量矩阵获取少量的线性测量，并通过优化算法进行重构。yΦxyΦxy∈Rmy∈Rm是测量向量；Φ∈Rm×nΦ∈Rm×n是测量矩阵，mnm < nmn；x∈Rnx∈Rn是待恢复的信号，通常假设其在某一基下稀疏。压缩感知作为一种突破传统采样限制的信号处理技术，依托信号的稀疏性和特定的重构条件，实现了高效的信号采样与恢复。