Cholesky 分解简介

Cholesky 分解是一种用于对称正定矩阵的分解方法，将矩阵分解为一个下三角矩阵与其转置的乘积。具体来说，若 ( $A$ ) 是一个对称正定矩阵，Cholesky 分解可以表示为：

[ $A=L{L}^T$ ]

其中，( $L$ ) 是一个下三角矩阵，( $L^T$ ) 是 ( $L$ ) 的转置。

1. 条件

Cholesky 分解要求矩阵 ( $A$ ) 满足以下条件：

• 对称性：( $A=A^T$ )
• 正定性：对于所有非零向量 ( $x$ )，( $x^{T}Ax>0$ )

2. 算法步骤

Cholesky 分解的算法步骤如下：

1. 初始化：给定对称正定矩阵 ( $A$ ) 和其维度 ( $n$ )，初始化下三角矩阵 ( $L$ ) 为全零矩阵。

2. 逐列计算：

   • 对于每一列 ( $j$ ) 从 $1$ 到 ( $n$ )：
     • 计算对角线元素：
       $$L_{jj}=\sqrt{A_{jj}-\sum _{k=1}^{j-1}{L}_{jk}^2}$$
     • 对于每一行 ( $i$ ) 从 ( $j+1$ ) 到 ( $n$ )：
       $$L_{ij}=\frac{1}{L_{jj}}\left(A_{ij}-\sum _{k=1}^{j-1}{L}_{ik}{L}_{jk}\right)$$

3. 返回结果：得到下三角矩阵 ( L )，满足 ( $A=L{L}^T$ )。

3. 示例

假设有对称正定矩阵：

$$A=\left(\begin{array}{ccc}4& 12& -16\\ 12& 37& -43\\ -16& -43& 98\end{array}\right)$$

进行 Cholesky 分解：

1. 计算 ( $L_{11}$ )：
   $$L_{11}=\sqrt{4}=2$$

2. 计算 ( $L_{21}$ ) 和 ( $L_{31}$ )：
   $$L_{21}=\frac{12}{2}=6,L_{31}=\frac{-16}{2}=-8$$

3. 计算 ( $L_{22}$ )：
   $$L_{22}=\sqrt{37-6^2}=\sqrt{1}=1$$

4. 计算 ( $L_{32}$ )：
   $$L_{32}=\frac{-43-(6\times -8)}{1}=5$$

5. 计算 ( $L_{33}$ )：
   $$L_{33}=\sqrt{98-((-8{)}^2+5^2)}=\sqrt{25}=5$$

最终得到下三角矩阵 ( $L$ )：

$$L=\left(\begin{array}{ccc}2& 0& 0\\ 6& 1& 0\\ -8& 5& 5\end{array}\right)$$

验证 ( $A=L{L}^T$ )：

$$L{L}^T=\left(\begin{array}{ccc}2& 0& 0\\ 6& 1& 0\\ -8& 5& 5\end{array}\right)\left(\begin{array}{ccc}2& 6& -8\\ 0& 1& 5\\ 0& 0& 5\end{array}\right)=\left(\begin{array}{ccc}4& 12& -16\\ 12& 37& -43\\ -16& -43& 98\end{array}\right)=A$$

4. 应用

Cholesky 分解在以下领域有广泛应用：

• 线性方程组求解：通过分解后，求解 ( $Ax=b$ ) 转化为求解 ( $Ly=b$ ) 和 ( $L^{T}x=y$ )。
• 优化问题：在二次规划和最小二乘法中用于简化计算。
• 随机模拟：生成多元正态分布随机变量。

5. 优点

• 高效性：相比 LU 分解，Cholesky 分解的计算量更小。
• 数值稳定性：适用于对称正定矩阵，具有较好的数值稳定性。

6. 注意事项

• 矩阵条件：Cholesky 分解仅适用于对称正定矩阵，否则无法保证分解的唯一性和稳定性。
• 数值误差：在实际计算中，需注意数值误差的积累，尤其是矩阵接近奇异时。

总结来说，Cholesky 分解是一种高效且稳定的矩阵分解方法，广泛应用于科学计算和工程领域。