14、基础线性变换：SVD变换与小波变换解析

基础线性变换：SVD变换与小波变换解析

在图像处理和信号处理领域，线性变换是一种强大的工具，能够将数据从一个域转换到另一个域，从而揭示数据的内在结构和特征。本文将深入探讨两种重要的线性变换：奇异值分解（SVD）变换和小波变换。

1. 奇异值分解（SVD）变换

奇异值分解（SVD）变换是一种基于数值计算的方法，用于将超大数组分解为奇异值。它在解决超大线性系统和回归问题（如最小二乘法）方面具有重要应用，同时在图像处理领域，如压缩、滤波（降噪）和功率谱估计等方面也发挥着关键作用。

1.1 SVD变换的基本原理

与其他变换不同，直接SVD变换提供两个核矩阵，因此不能简单地表示为 $F = A · S$ 的形式。直接SVD变换可以表示为以下方程：
[
F_{SVD} = \Sigma^{1/2} = U^tSV
]
其中，$U$ 和 $V$ 是 $N × N$ 维的酉矩阵（即正交矩阵），$\Sigma$ 是对角矩阵，其元素 $\lambda^{1/2}(k, k)$（$k = 1, \ldots, N$）通常为非负值，称为图像矩阵 $S$ 的奇异值。

需要注意的是，这些奇异值不应与矩阵 $S$ 的特征值混淆，尽管它们之间存在一定的联系。由于 $U$ 和 $V$ 是正交矩阵，满足 $U^tU = I_N$ 和 $V^tV = I_N$，其中 $I_N$ 是 $N × N$ 维的单位矩阵。通过将上式两边分别乘以 $U$ 和 $V^t$，可以得到逆变换关系：
[
S = U\Sigma^{1/2}V^t
]

1.2 SVD变换的计算与性质