数值分析：线性方程组的直接解法-优快云博客

本文链接：https://blog.youkuaiyun.com/2301_76884115/article/details/139073270

文章目录

线性方程组的直接解法

本篇文章适合个人复习翻阅，不建议新手入门使用
本专栏：数值分析复习的前置知识主要有：数学分析、高等代数、泛函分析

线性方程组的直接解法

Gauss（高斯）消元法

设有线性方程组
$\begin{cases} a_{11}x_1+a_{12}x_2+\cdots+a_{1n}x_n=b_1\\ a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2\\ \vdots\\ a_{n1}x_1+a_{n2}x_2+\cdots+a_{nn}x_n=b_n\\ \end{cases}$

或写为矩阵形式
$\begin{pmatrix} a_{11}&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}&\cdots&a_{2n}\\ \vdots\\ a_{n1}&a_{n2}&\cdots&a_{nn}\\ \end{pmatrix}\begin{pmatrix} x_1\\x_2\\\vdots\\x_n \end{pmatrix}=\begin{pmatrix} b_1\\b_2\\\vdots\\b_n \end{pmatrix}$

简记为 $A x = b$

解线性方程组的经典算法是以下所称的“Guass消元法”

定义：Guass（高斯）消元法
从第一列开始，依次将系数矩阵 $A$ 每列对角线以下的元素变为零，得到一个上三角阵；方法是用该列对角线元素所在的行乘以相应倍数消去下面几行；
方程组化为
$\begin{pmatrix} a_{11}^{(1)}&a_{12}^{(1)}&\cdots&a_{1n}^{(1)}\\ &a_{22}^{(2)}&\cdots&a_{2n}^{(2)}\\ &&\ddots&\\ &&&a_{nn}^{(n)}\\ \end{pmatrix}\begin{pmatrix} x_1\\x_2\\\vdots\\x_n \end{pmatrix}=\begin{pmatrix} b_1^{(1)}\\b_2^{(2)}\\\vdots\\b_n^{(n)} \end{pmatrix}$

这一步称为消元

然后依次计算 $x_n,x_{n-1},\dots,x_1$ ，得到求解公式
$\begin{cases} x_n=\frac{b_n^{(n)}}{a_{nn}^{(n)}}\\ x_k=(b_k^{(k)}-\sum\limits_{j=k+1}^na_{kj}^{(k)}x_j)/a_{kk}^{(k)},k=n-1,n-2,\dots,1 \end{cases}$

这一步称为回代

Guass消元法的改进：选（列）主元的高斯消元法
一般的Guass消元法的缺点是：无法处理对角线元素为零的矩阵，原因是零无法做分母；并且如果对角线上的元素绝对值较小，可能会产生数量级较大的数，计算结果可能不稳定，从而造成较大误差；因此采用如下称为选主元的高斯消元法，其在原先方法的基础上，在对第 $k$ 列进行消元时，考虑第 $k$ 列的从第 $k$ 行到最后一行的元素，选出绝对值最大的元素，将该元素所在的行与第 $k$ 行交换，再进行消元

高斯消元法与矩阵的LU分解

高斯消元法的矩阵表示

高斯消元法的消元过程相当于对 $A$ 依次左乘 ${n-1}$ 个下三角阵 $L_1,\dots,L_{n-1}$ ，使其成为上三角阵U，记 $L^{-1}=L_{n-1}\cdots L_1$
$L_1=\begin{pmatrix} 1&&&&\\ *&1&&&\\ *&&1&&\\ \vdots&&&\ddots&\\ *&&&&1\\ \end{pmatrix},L_2=\begin{pmatrix} 1&&&&\\ &1&&&\\ &*&1&&\\ &\vdots&&\ddots&\\ &*&&&1\\ \end{pmatrix},\dots,L_{n-1}=\begin{pmatrix} 1&&&&\\ &1&&&\\ &&\ddots&&\\ &&&1&\\ &&&*&1\\ \end{pmatrix}$