凸优化有关的数值线性代数知识三：LU Cholesky和LDL因式分解

最新推荐文章于 2024-12-17 20:00:00 发布

使君杭千秋

最新推荐文章于 2024-12-17 20:00:00 发布

阅读量803

点赞数 1

分类专栏：凸优化

原文链接：https://blog.youkuaiyun.com/wangchy29/article/details/87911171

版权

凸优化专栏收录该内容

62 篇文章

订阅专栏

三、LU Cholesky和因式分解

LU因式分解
Cholesky因式分解
因式分解

LU因式分解

每一个非奇异矩阵 $A\in R^{n \times n}$ 都可以因式分解成A=PLU，其中 $P \in R^{n \times n}$ 是排列矩阵， $L \in R^{n \times n}$ 是单位下三角矩阵， $U \in R^{n \times n}$ 是非奇异上三角矩阵。这种形式被成为Ａ的LU因式分解。也可以写成 P^TA=LU 。

计算LU因式分解的标准算法被称为Gauss部分主元消元法，或Gauss行变换消元法。不考虑Ａ的结构，计算Ａ的LU因式分解的成本是 (2/3)n^3 。

通过LU因式分解求解线性方程组

给定线性方程组Ax=b，其中A非奇异。

LU因式分解：将A因式分解为A=PLU。
排列：求解（0次浮点运算）
前向代入：求解（次浮点运算）
后向代入：求解（次浮点运算）

一共需要 (2/3)n^3+2n^2 次浮点运算。

如果考虑求解多个不同右边项的线性方程组，即 $Ax_i=b_i,i=1,\cdots ,m$ ，一共需要一次因式分解，m次解方程，共 (2/3)n^3+2mn^2 次浮点运算。

稀疏矩阵的LU因式分解

当Ａ是稀疏矩阵时，起LU因式分解通常包含行列排列，即Ａ被因式分解成 A=P_1LUP_2 ，其中 P_1,P_2 是排列矩阵，Ｌ是下三角矩阵，Ｕ是上三角矩阵。因式L和U的稀疏性取决于排列矩阵 P_1 和 P_2 ，因此选择这些矩阵时在一定程度上要考虑因式的稀疏性。

计算稀疏的LU因式分解的成本是A的维数、非零元素的数量、稀疏模式以及所使用的具体算法这些因素的复杂函数。但通常会小于稠密的LU因式分解的计算成本。

Cholesky因式分解

如果 $A\in R^{n \times n}$ 是对称正定矩阵，那么它可以因式分解为 A =LL^T ，其中L是下三角非奇异矩阵，对角元素均为正数，这种分解被称为A的Cholesky因式分解，可以理解为对称LU分解。矩阵L，通常由A唯一确定，被称为Ade Cholesky因式。不考虑A的结构，计算A的Cholesky因式分解的成本是 (1/3)n^3 次浮点运算。