矩阵迭代

1  基本迭代方法

    实际问题PDE矩阵计算 A x = b，一般采用迭代解法。基本迭代方法（Jacobi, G-S SOR)主要分两步：矩阵分裂和残差正交投影。

    A = D - E - F， (b - A x_k+1)|_i = 0  ----->

    Jacobi迭代：  x_k+1 = D^-1 ( E + F) x_k + D^-1b

    G - S 迭代：  x_k+1 = (D - E)^-1 F x_k + (D - E) ^-1 b

    实际上，A = M - N。 只要矩阵M 非奇异，就可以构造出一种迭代格式:  M x_k+1 = N x_k + b

    松弛方法，对A分解如下：  w A = ( D - w E ) - ( w F + (1-w)D)

    SOR迭代：  （D - w E) x_k+1 = ( w F + (1-w)D)x_k + wb

     块迭代方法是一个迭代步里完成一个子块的更新，同样两步。此时迭代关系为：全局残差在子（块）空间投影为0.

2 矩阵迭代属性

     2.1 不动点迭代

     M^-1 A x = M^-1 b,  (A = M  - N )  预处理后方程组的不动点迭代等价于上述各种基本迭代格式.  实际应用中不采用  M^-1 A 而是转换成几个矩阵 向量乘法.  

      2.2 迭代收敛性

      x_k+1 - x = G^k+1 (