numercial optimization 笔记——泰勒定理公式2.5/2.5/2.6解释

在书中第二章，有公式如下：

公式2.4

理解1

这里是一个mean value theorem的表达，这里参考calculus-stewart

我们将式（2.4）进行改写
$$\nabla f(x+tp)=\frac{f(x+p)-f(x)}{p}$$
可以得到和上面中值定理同样的形式。

注意这里（x+tp）是从点x到点x+p之间的一点。比例是t

理解2

首先，我们理解一下，微积分基本定理和终止定理的关系：

根据微积分基本定理：
$$g(1)=g(0)+{\int }_0^1{g}^{\prime }(t)dt$$
根据中值定理：
$$g(1)=g(0)+g^{\prime }(t)$$
可以看到两个式子，根本不一样，那么怎么理解呢：
（1）微积分基本定理的意思是，对$g^{\prime }(t)$在区间[0,1]上进行定积分，再加上g(0)的值，就可以得到g(1)的值

（2）而中值定理的意思是：在区间[0,1]内部，一定存在一个t，满足，$g^{\prime }(t)$加上g(0)的值，等于g(1)的值。

令$g(t)=f(x+tp)$，$g(0)=f(x)$，$g(1)=f(x+p)$，$g^{\prime }(t)=\nabla f(x+tp)p$，代入中值定理可以得到公式（2.4）

如果是代入微积分基本定理，则需要再进行一步，针对积分项的中值定理，就可以得到对应的结果

公式2.5

令$g(t)=\nabla f(x+tp)$，则$g(0)=\nabla f(x)$,$g(1)=\nabla f(x+p)$。对t求导有：$g^{\prime }(t)={\nabla }^{2}f(x+tp)p$，根据中值定理有，这里有问题，这里应该是用不上中值定理，直接用下面微积分基本定理就行，==和上面理解2进行对比，这里没有用中值定理，直接代入的微积分基本定理：
$$g^{\prime }(t)=\frac{g(1)-g(0)}{1}=\frac{\nabla f(x+p)-\nabla f(x)}{1}$$
根据微积分基本定理：
$$g(1)=g(0)+{\int }_0^1{g}^{\prime }(t)dt$$
可得：
$$\nabla f(x+p)=\nabla f(x)+{\int }_0^1{\nabla }^{2}f(x+tp)pdt$$
就得到了公式2.5

公式2.6

和上面讨论类似，将公式（2.5）代入到公式（2.4），然后利用针对积分项的中值定理，就可以获得去掉积分号的公式（2.6）

下面讲一下针对积分项的中值定理，参考文献：
https://people.math.sc.edu/meade/Bb-CalcI-WMI/Unit5/HTML-GIF/MVTIntegral.html

定理：如果函数f在闭区间[a,b]上可导，则存在一个c属于(a,b)，有如下关系：
$$f(c)=\frac{1}{b-a}{\int }_a^{b}f(t)dt$$
证明：在闭区间[a,b]内，取一个函数$F={\int }_a^{x}f(t)dt$
利用中值定理有：

利用函数F定义有：

并且：

因此有：