48、奇异值分解：定义、性质与几何解释

奇异值分解：定义、性质与几何解释

奇异值分解（SVD）是线性代数中的一个重要工具，在数据压缩、信号处理、机器学习等领域有广泛应用。本文将介绍奇异值分解的定义、性质、几何解释，并通过具体例子进行说明。

1. 紧凑奇异值分解与截断奇异值分解

奇异值分解的完整形式为 $A = U\Sigma V^T$，也称为完全奇异值分解。在实际应用中，紧凑奇异值分解和截断奇异值分解更为常用。
- 紧凑奇异值分解 ：对于一个 $m\times n$ 的实矩阵 $A$，秩为 $r$（$r\leq\min(m,n)$），其紧凑奇异值分解为 $A = U_r\Sigma_r V_r^T$。其中，$U_r$ 是 $m\times r$ 矩阵，$V_r$ 是 $n\times r$ 矩阵，$\Sigma_r$ 是 $r$ 阶对角矩阵。$U_r$ 由完全奇异值分解中 $U$ 的前 $r$ 列组成，$V_r$ 由 $V$ 的前 $r$ 列组成，$\Sigma_r$ 由 $\Sigma$ 的前 $r$ 个对角元素组成。紧凑奇异值分解的对角矩阵 $\Sigma_r$ 的秩等于原矩阵 $A$ 的秩。
- 示例 ：已知矩阵 $A$ 为

A = [
    [1, 0, 0, 0],
    [0, 0, 0, 4],
    [0, 3, 0, 0],
    [0, 0, 0, 0],
    [2, 0, 0, 0]
]

其秩 $r = 3$，紧凑奇异值分解为 $A = U_r\Sigma_r V_r^T$，其中