矩阵分析之实矩阵分解（2）LU，PLU分解

最新推荐文章于 2025-02-26 21:58:14 发布

RuiH.AI

最新推荐文章于 2025-02-26 21:58:14 发布

阅读量5.8k

点赞数 6

分类专栏：概率论与机器学习文章标签：线性代数矩阵算法

本文链接：https://blog.youkuaiyun.com/qq_41035283/article/details/121387444

版权

概率论与机器学习专栏收录该内容

50 篇文章

订阅专栏

本文介绍了实矩阵的LU分解方法，包括分解条件、分解过程及其唯一性。详细讨论了Doolittle方法，并对比了PLU分解的优势。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

前言

之前提到了特征分解和奇异值分解两种矩阵分解的方法，其中特征分解要求n阶方阵且具有n个线性无关的特征向量；SVD分解对矩阵没有要求，但是分解的速度很慢。为了提升分解的效率，可以使用LU分解法。

LU分解（Doolittle杜立特解法）

分解条件

对于可逆方阵 $A$ ，可以将其分解为下三角矩阵 $L$ 和上三角矩阵 $U$ 的乘积：
$\\ \quad \\ Ax=\begin{bmatrix} l_{11} & \\ l_{21} & l_{22} \\ l_{31} & l_{32} & l_{33} \\ \end{bmatrix}$
上下三角矩阵对于方程组求解有良好的求解性质，例如：
$Ax=\begin{bmatrix} l_{11} & \\ l_{21} & l_{22} \\ l_{31} & l_{32} & l_{33} \\ \end{bmatrix}x = \begin{bmatrix} b_1 \\ b_2 \\ b_3 \\ \end{bmatrix} \\ \quad \\ x_1=b_1/l_{11} \\ x_2=(b_2-l_{21}x_1)/l_{22} \\ x_3=(b3-l_{31}x_1-l_{32}x_2)/l_{33}$
三角矩阵求解的时间复杂度为 $O(n^2)$

分解方法

由于矩阵 $A$ 可逆，可通过高斯消元法将 $A$ 化为上三角矩阵，例如：
$A=\begin{bmatrix} 1 & 1 & 2\\ 2 & 1 & 1 \\ 1 & 2 & 1 \\ \end{bmatrix} \\ \quad \\ \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0 \\ -1 & 0 & 1 \\ \end{bmatrix}A =\begin{bmatrix} 1 & 1 & 2\\ 2 & 1 & 1 \\ 0 & 1 & -1 \\ \end{bmatrix} \\ \quad \\ \begin{bmatrix} 1 & 0 & 0\\ -2 & 1 & 0 \\ 0& 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0 \\ -1 & 0 & 1 \\ \end{bmatrix}A=\begin{bmatrix} 1 & 1 & 2\\ 0 & -1 & -3 \\ 0 & 1 & -1 \\ \end{bmatrix} \\ \quad \\ \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0 \\ 0& 1 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ -2 & 1 & 0 \\ 0& 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0 \\ -1 & 0 & 1 \\ \end{bmatrix}A= \begin{bmatrix} 1 & 1 & 2\\ 0 & -1 & -3 \\ 0 & 0 & -4 \\ \end{bmatrix}$
可以看出， $A$ 经过几次行变换后，就化为了上三角矩阵，可记为：
$L_3L_2L_1A=U \\ \quad \\ A=L_1^{-1}L_2^{-1}L_3^{-1}U$
于是， $A$ 就可以写成行变换矩阵乘积的逆与上三角矩阵的乘积了。行变换矩阵的逆还是行变换矩阵，因此行变换矩阵乘积的逆仍然是行变换矩阵，并且是下三角矩阵。

因此，LU分解实际上就是通过初等行变换将矩阵变为上三角矩阵，并将行变换的乘积取逆的过程。

分解的唯一性

如果矩阵 $A$ 可以进行LU分解，则可能分解出多种 $L, U$ 矩阵组合；但是如果 $L$ 是单位下三角矩阵，或 $U$ 是单位上三角矩阵，则LU分解的结果是唯一的。

唯一性的证明可以这么考虑：在高斯消元时，依次将每列在对角线上的元素考虑为主元，那么行变换就是固定的，则矩阵 $L$ 就是唯一的。

此外， $L, U$ 矩阵的对角线元素必然不为零，证明方法也很简单： $A$ 可逆， $|A|=|L||U|\ne 0$ ，则 $|L|\ne0,|U|\ne0$ ，则对角线必没有零元素。

复杂度

可以看出，将第一列化为主元列时，需要对每行(n)的每个元素(n)进行操作，n列都要化为主元列，则时间复杂度为 $O(n^3)$

PLU分解

上面的示例中，矩阵 $A$ 通过行变换进行分解，采用的是高斯消元的思想。然而，如果有这么一个可逆矩阵：
$A=\begin{bmatrix} 0 & 1 & 1\\ -2 & 0 & 1 \\ 0& 0 & 1 \\ \end{bmatrix}$
按照上面所说， $A$ 可逆则可LU分解，然而在高斯消元时，默认第一列的主元值为0，这样就没法通过行增减变换消元了。这时候，需要使用行置换的方法，将第一列的主元换为-2。这就是PLU分解：
$A = P L U$
其中，P是一个行置换矩阵（也是初等行变换），L是下三角矩阵，U是上三角矩阵。