牛顿迭代法

1. 不动点迭代法

1.1 定义

迭代法是求解一元非线性方程$f(x)=0$的主要方法。其做法是将方程改为等价方程$x=\varphi (x)$，从而构造迭代公式$x_{k+1}=\varphi (x_k)$,如果$x_k$有极限，则迭代公式是收敛的。

1.2 不动点迭代法的收敛性定理

设$\varphi \in C[a,b]$，$\varphi (x)$需满足2个条件才能保证迭代公式收敛。

• 条件1-- 定义域包含值域（映内性）：当$a\le x\le b$时，也有$a\le \varphi (x)\le b$
• 条件2—利普希茨条件（压缩性）：存在常数$0<L<1$，使得$$|\varphi (x)-\varphi (\hat{x})|\le L|x-\hat{x}|\forall x,\hat{x}\in [a,b]\text{\hspace{1em}(1)}$$

1.3 不动点迭代法的收敛性定理的引理（常用）

• 条件1：不变
• 条件2： 设$\varphi$在(a,b)上可导，且存在常数$0<L<1$，使得$$|{\varphi }^{{}^{\prime }}(x)|\le L\le 1\forall x\in (a,b)\text{\hspace{1em}(2)}$$如果式(2)成立，则由中值定理$$|\varphi (x)-\varphi (\hat{x})|=|{\varphi }^{{}^{\prime }}(\xi )||x-\hat{x}|\le L(x-\hat{x})$$即式(1)成立。

2. 牛顿迭代法求解一元非线性方程

2.1 牛顿迭代法的公式

由$f(x)$在$x_0$的泰勒展开得$$0=f(x)=f(x_0)+f^{{}^{\prime }}(x_0)(x-x_0)+R_n(x)$$忽略余项，可得$$x=x_0-\frac{f(x_0)}{f^{{}^{\prime }}(x_0)}$$由此可得牛顿迭代公式为：
$$x_{k+1}=x_k-\frac{f(x_k)}{f^{{}^{\prime }}(x_k)}$$

2.2 优缺点

优点：

• 具有平方收敛的速度

缺点：

• 重根情形下为局部线性收敛
• 计算量大（除了计算函数值外还要计算微商值）
• 初值要靠近精确解

3. 牛顿法求解非线性方程组

$$x^{(k+1)}=x^{(k)}-(Df(x^{(k)}){)}^{-1}f(x^{(k)})$$其中$Df$是雅可比矩阵

4. 拟牛顿法求解非线性方程组

在某种近似条件下，以某个非奇异且比雅可比矩阵容易计算的矩阵近似代替雅可比矩阵