压缩感知理论，我来补基础了！

压缩感知

压缩感知的主要应用

目前压缩感知主要应用再无线信号通信，核磁共振成像，雷达成像，信息采集，超分辨率图像重构等领域

为什么选择压缩感知

1. 压缩感知提供了一个新的采样理论，通过对信号稀疏性的开发，在远小于奈奎斯特采样率的条件下，通过随机采样得到的样本通过非线性重建可以完美还原(重建)信号。
2. 压缩感知方法抛弃了当前信号中的冗余信息，还可以在一定程度上降噪。
3. 由于其低采样率的性质，通过为低分辨率图像恢复高分辨率图像提供了可能性。

压缩感知是什么

压缩感知(compressed sensing, CS)是一种对可压缩信号进行采样的技术，通过一些手段使得欠采样的数据可以同某种手段恢复成原始数据，显然数据经过欠采样之后会被压缩。

信号采样

奈奎斯特采样定理

采样的数据要保持原信号的所有信息，采样频率必须大于信号最高频率的2倍。而绝大多数信号都是能够进行傅里叶变换的，就意味着，不管一个信号多么复杂，总可以分解为若干个正（余）弦信号的和，对应了信号的频率分量。<参考：信号与系统>

压缩感知采样与奈奎斯特采样的差别

1. 奈奎斯特采样一般等间距采样，而压缩感知一般随机采样
2. 压缩感知要求数据在某个变换域具有稀疏性，奈奎斯特采样基本是普适的。

压缩感知的格式

x = $\varphi$$\psi$z
其中x为信号观测值，$\varphi$为观测矩阵，y = $\psi$z为原始信号，z为稀疏向量，$phi$可以理解为基矩阵。

显然对于一般的问题，我们已知了采样信号x,采样矩阵（感知矩阵）$\varphi$，（预计可以）使得信号稀疏的基矩阵$\psi$，问题很明显了，我们要求出这个稀疏向量z！

$\varphi$的要求

大佬A: 感知矩阵要满足约束等距性性条件（RIP）：$(1-{\delta }_k)||c|{|}_2^2\le ||\varphi c|{|}_2^2\le (1+{\delta }_k)||c|{|}_2^2$
大佬B：RIP等价于感知矩阵和稀疏表示基不相关！
大佬A:独立同分布的高斯随机感知矩阵可以成为普适的压缩感知矩阵

压缩感知与ISTA

LASSO问题

目前不和数学打交道，等日后研究深入些之后再来填坑。
参考：https://zhuanlan.zhihu.com/p/46999826

优化形式

$$argmi{n}_z||\varphi \psi z-x|{|}_p^p$$
$$s.t.||z|{|}_0\le k$$
其中k为稀疏度，表示z中至多有k个元素非零
其lasso格式如下
$$argmi{n}_z(||\varphi \psi z-x|{|}_2^2+\lambda ||z|{|}_1)$$
可以通过迭代优化，使得z满足条件。
取D=$\varphi \psi$作为一个字典，那么上述Lasso格式可以进一步写为
$$argmi{n}_z(||Dz-x|{|}_2^2+\lambda ||z|{|}_1)$$
即可通过ISTA算法进行优化，使得z尽可能稀疏的前提下对x的还原程度尽可能高。