49、奇异值分解：计算与矩阵近似

奇异值分解：计算与矩阵近似

1. 奇异值分解的计算

奇异值分解（SVD）是线性代数中的一个重要工具，对于一个 (m\times n) 的矩阵 (A)，其 SVD 形式为 (A = U\Sigma V^T)，其中 (U) 是 (m\times m) 的正交矩阵，(\Sigma) 是 (m\times n) 的对角矩阵，(V) 是 (n\times n) 的正交矩阵。下面详细介绍其计算步骤：
1. 计算 (A^TA) 的特征值和特征向量
- 首先计算对称矩阵 (W = A^TA)。
- 求解特征方程 ((W - \lambda I)x = 0)，得到特征值 (\lambda_j)，并将特征值从大到小排序：(\lambda_1\geq\lambda_2\geq\cdots\geq\lambda_n\geq0)。
- 将特征值 (\lambda_j) 代入特征方程，得到对应的特征向量。
2. 求 (n) 阶正交矩阵 (V)
- 将特征向量单位化，得到单位特征向量 (v_1, v_2, \cdots, v_n)，它们构成 (n) 阶正交矩阵 (V)：(V = [v_1, v_2, \cdots, v_n])。
3. 求 (m\times n) 对角矩阵 (\Sigma)
- 计算矩阵 (A) 的奇异值 (\sigma_j = \sqrt{\lambda_j})，(j = 1, 2, \cdots, n)。
- 构造 (m\times n) 的矩形对角矩阵 (\Sigma)，其主对角线元素为奇异值，其余元素为零：(\Sigma =