矩阵计算误差分析(条件数和范数)

矩阵计算误差分析(条件数和范数)

引言

误差问题是不可避免的，在大量的数据样本中，如果能去掉部分可能造成误差很大的样本，那么对于应用矩阵得到的结果的可靠性则大大加强。例如有999个员工的月收入为$10^4$元，马云的月收入为$10^9$元，现在问这1000个人的平均月收入，显然将马云的这一数据去掉，更能反映出总体的平均月收入水平。研究矩阵计算$Ax=b$中的误差问题，研究方法是对b或者A施加微小的扰动，再通过计算x的变化，得出扰动对于x误差的影响。

对b施加扰动

方程$Ax=b$变化为:
$$A(x+\Delta x)=b+\Delta b$$
$$A\Delta x=\Delta b$$
$$\Delta x=A^{-1}\Delta b$$
如果$A$接近奇艺矩阵，即$\left|A\right|\approx 0$，则 $\left|A^{-1}\right|$很大，这就说明当$\Delta b$取某些方向时，$\Delta x$将会非常大。
为方便研究，假定$A$是正定矩阵，且含有n个特征值:$$0<{\lambda }_1⩽{\lambda }_2⩽...⩽{\lambda }_n,$$对应的特征向量为：
$$x_1,x_2,...,x_n.$$则任意向量都是特征向量的线性组合。
$A$是正定矩阵则$A^{-1}$也是正定矩阵，且含有n个特征值：
$$0<\frac{1}{{\lambda }_n}⩽\frac{1}{{\lambda }_{n-1}}⩽...⩽\frac{1}{{\lambda }_1}$$
$$x_1,x_2,...,x_n$$同时也是$A^{-1}$的特征向量。
现在设$\Delta b=ϵx_i$,则
$$\Delta x=A^{-1}ϵx_i=\frac{ϵx_i}{{\lambda }_i}=\frac{\Delta b}{{\lambda }_i}$$
这说明当$b$取$x_1$方向时，为最坏的扰动，当${\lambda }_1$接近于0时，$x$将异常灵敏。
上述分析过程中存在一个明显的缺陷：如果将$A$扩大$1000$倍，即1000A1000A