9、压缩感知稀疏基的相关知识

压缩感知稀疏基的相关知识

在压缩感知领域，稀疏基或字典起着关键作用。它能帮助我们对信号进行稀疏表示，进而实现高效的数据处理和恢复。下面将详细介绍稀疏基的相关概念、不同类型的解析字典以及字典学习的方法。

1. 稀疏基与冗余性

对于一个不一定稀疏的信号 $\vec{I} \in R^n$，我们可以找到一组由 $n$ 个线性无关向量组成的集合，将它们按列排列在矩阵 $\Psi \in R^{n\times n}$ 中，使得 $\vec{I} = \Psi\vec{x}$ 的表示 $\vec{x}$ 是稀疏的，这个矩阵 $\Psi$ 就被称为稀疏基或字典。

在压缩感知中，字典并不总是基，也可能是具有一定冗余度的框架。经典的冗余度概念由商 $\rho_{\Psi} = \frac{n_{atoms}}{n}$ 给出，其中 $n_{atoms}$ 是字典中原子的数量。然而，这个公式无法体现冗余的局部性。例如，在框架中重复同一个元素 $n_{atoms}$ 次和每个元素只重复一次，虽然冗余度相同，但两个框架的结构却截然不同。

为了更准确地描述冗余性，定义了冗余函数 $\rho_{\Psi}(\vec{I}) = \sum_{i=1}^{n_{atoms}} \frac{|\langle \vec{\psi} i^{\top}, \vec{I} \rangle|^2}{|\vec{\psi}_i|_2^2} = |\Psi^{\top}\vec{I}|_2^2$（当 $|\vec{\psi}_i|_2^2 = 1, \forall i \leq n {atoms}$ 时）。基于此，又定义了下冗余度 $\rho_{\Psi}^- = \min_{\vec{