24、矩阵分解求解线性方程组：LU 与 Cholesky 方法详解

矩阵分解求解线性方程组：LU 与 Cholesky 方法详解

1. 线性方程组求解与 LU 分解概述

在求解线性代数方程组 $[A]{x} = {b}$ 时，高斯消元法是常用的方法。但当系数矩阵 $[A]$ 相同，而右侧常数向量 ${b}$ 不同时，高斯消元法效率会降低。LU 分解方法则将矩阵 $[A]$ 的消元过程与右侧向量 ${b}$ 的操作分离，一旦 $[A]$ 完成分解，就能高效求解多个右侧向量。

1.1 LU 分解的数学原理

为简化说明，先不考虑主元选取，以三元一次方程组为例。将方程 $[A]{x} - {b} = 0$ 转化为上三角系统：
[
\begin{bmatrix}
u_{11} & u_{12} & u_{13} \
0 & u_{22} & u_{23} \
0 & 0 & u_{33}
\end{bmatrix}
\begin{Bmatrix}
x_1 \
x_2 \
x_3
\end{Bmatrix}
=
\begin{Bmatrix}
d_1 \
d_2 \
d_3
\end{Bmatrix}
]
可表示为 $[U]{x} - {d} = 0$。假设存在对角元素为 1 的下三角矩阵 $[L]$：
[
[L] =
\begin{bmatrix}
1 & 0 & 0 \
l_{21} & 1 & 0 \
l_{31} &