线性方程组的直接解法参考: 线性方程组的直接解法
病态方程组
由于计算机舍入误差,在求解方程组 A x = b Ax=b Ax=b时总会有误差,实际上是在求解 ( A + δ A ) ( x + δ x ) = b + δ b (A+\delta A)(x+\delta x)=b+\delta b (A+δA)(x+δx)=b+δb
有时方程组的解对于系数矩阵和右端向量的扰动非常敏感,此时称为病态方程组
矩阵范数
一个线性映射 A : X → Y A:X\rightarrow Y A:X→Y称为有界的,是指存在常数 C > 0 , s . t . ∀ x ∈ X , ∣ ∣ A x ∣ ∣ Y ≤ C ∣ ∣ x ∣ ∣ X C>0,s.t. \forall x\in X,||Ax||_Y\le C||x||_X C>0,s.t.∀x∈X,∣∣Ax∣∣Y≤C∣∣x∣∣X,对于有界线性算子 A A A可以定义: ∣ ∣ A ∣ ∣ : = s u p ∣ ∣ x ∣ ∣ X = 1 ∣ ∣ A x ∣ ∣ Y < + ∞ ||A||:=sup_{||x||_X=1}||Ax||_Y<+ \infty ∣∣A∣∣:=sup∣∣x∣∣X=1∣∣Ax∣∣Y<+∞ 为算子 A A A的范数
可以证明

矩阵条件数
讨论加入扰动后方程可解性: A + δ A = A ( I + A − 1 δ A ) A+\delta A=A(I+A^{-1}\delta A) A+δA=A(I+A−1δA)
引理:
若 ∣ ∣ B ∣ ∣ < 1 ||B||<1 ∣∣B∣∣<1,则 I ± B I\pm B I±B可逆,且 ( I ± B ) − 1 ≤ 1 1 − ∣ ∣ B ∣ ∣ (I\pm B)^{-1}\le\frac{1}{1-||B||} (I±B)−1≤1−∣∣B∣∣1
证明:反证法
定理:
设 d e t A ≠ 0 , b ≠ 0 , ∣ ∣ A − 1 ∣ ∣ ∣ ∣ δ A ∣ ∣ < − 1 det A\ne0,b\ne0,||A^{-1}||||\delta A||<-1 detA=0,b=0,∣∣A−1∣∣∣∣δA∣∣<−1,则有
∣ ∣ δ x ∣ ∣ ∣ ∣ x ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ∣ ∣ A − 1 ∣ ∣ 1 − ∣ ∣ A ∣ ∣ ∣ ∣ A − 1 ∣ ∣ ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ ( ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ + ∣ ∣ δ b ∣ ∣ ∣ ∣ b ∣ ∣ ) \frac{||\delta x||}{||x||}\le \frac{||A|| ||A^{-1}||}{1-||A||||A^{-1}||\frac{||\delta A||}{||A||}}( \frac{||\delta A||}{||A||}+\frac{||\delta b||}{||b||}) ∣∣x∣∣∣∣δx∣∣≤1−∣∣A∣∣∣∣A−1∣∣

本文探讨了线性方程组求解中的病态性问题,介绍了矩阵条件数的概念,以及如何通过矩阵奇异值分解进行正则化,以减少舍入误差。重点讲解了吉洪诺夫正则化方法及其误差来源。
最低0.47元/天 解锁文章
463

被折叠的 条评论
为什么被折叠?



