从点斜线到牛顿迭代法

1 斜线方程及其根

斜线方程：
直线上一点(a,b)并且存在直线的斜率k，则直线可表示$y=k(x-a)+b$
斜率:
$k=(y-y1)/(x-x1)$
根：
“根”一般是指多项式的零点；先将y更改为f(x),即$f(x)=k(x-a)+b,f(x)=0$时的x值就是方函数(x)的根，就是斜线和x轴(y=0这条线)的交点

2 切线方程及其根

切线定义：
假设有一条曲线的函数为$f(x)$,那么其上就有一点$(x,f(x))$,在该点画一条与曲线相切的线(刚好掠过该点)，该线就是过点$(x,f(x))$的切线
切线的斜率：

在曲线上，选取一个无限靠近x0的点$x_1$,这两个在曲线上的点分别为$(x_0,f(x_0))、(x_1,f(x_1))$
那么经过这两个点的斜率为：$k=\frac{f(x_0)-f(x_1)}{x_0-x_1}$，
因为x0无限趋近于x1时, 根据极限原理得到公式，斜率k：
$k=\underset{x0\to x1}{\lim }\frac{f(x_0)-f(x_1)}{x_0-x_1}$
$k={\lim }_{h\to 0}\frac{f(x+h)-f(x)}{h}$
切线方程：
y = kx +b,其中是切线的斜率，b是常量
根：
切线的根就是该切线和x轴的交点，$x=-b/k$

3 导数

导数定义：
通过$(x,(f(x))$的切线的斜率是x的一个函数，这个函数被称为函数$f(x)$的导数$f^{\prime }(x)$,将极限公式种的h替换为$\Delta x$,得到:
$f^{\prime }(x)=\underset{\Delta x\to 0}{\lim }\frac{f(x+\Delta x)-f(x)}{\Delta x}$
如果$f(x)=x^2$，那么$f^{\prime }(x)$是什么？导数的推导：
$f^{\prime }(x)=\underset{h\to 0}{\lim }\frac{f(x+h)-f(x)}{h}=\underset{h\to 0}{\lim }\frac{(x+h{)}^2-x^2}{h}=\underset{h\to 0}{\lim }\frac{x^2+2xh+h^2-x^2}{h}=\underset{h\to 0}{\lim }\frac{2xh+h^2}{h}=\underset{h\to 0}{\lim }\frac{2x+h}{h}=2x$
因此$f(x)=x^2$的导数为$f^{\prime }(x)=2x$
导数的表达形式：
因为h是相对x的变化量，而$f(x+h)-f(x)$只差表示结果的变化量，所以导数就有了更为简洁的表示方法
$f^{\prime }(x)=\underset{\Delta x\to 0}{\lim }\frac{f(x+\Delta x)-f(x)}{\Delta x}=\underset{\Delta x\to 0}{\lim }\frac{\Delta y}{\Delta x}=\frac{dy}{dx}$
何时导数不存在?
当曲线上某个点的左侧斜率和右侧斜率不相等时，该点的导数就不存在；连续的函数不一定可导，但可导的函数必连续(可证明)

4 切线法(牛顿迭代法)

牛顿迭代法是一种一般情况下具有二阶收敛速度的非线性方程的数值解法，具体做法：

设x是方程$f(x)=0$的根，而x0是x附近的一个值，过$(x_0,f(x_0))$做$f(x)$的切线，斜线方程为$y=kx+b$,而$k=f^{\prime }(x_0)$, 则$b=f(x_0)-f^{\prime }(x_0)\ast x_0$, 将其代入斜线方程， 得到切线方程为：
$y=f(x_0)+f^{\prime }(x_0)(x-x_0)$
而切线方程与x轴的交点为x1,因此根据切线方程可求得x1:
$f(x_0)+f^{\prime }(x_0)(x1-x_0)=0\Rightarrow x1=\frac{f^{\prime }(x_0)x_0-f(x_0)}{f^{\prime }(x_0)}=x_0-\frac{f(x_0)}{f^{\prime }(x_0)}$ ①
如果曲线在x附近保持上升且收敛，不难看到x1比x0更接近方程f(x)真实的根x，如果继续在$(x_1,f(x_1)$上作一条切线，那么该切线方程与x轴的交点x2将越加接近x*,因此可以预计在k次迭代后，xk将非常接近真实的根值x*，迭代公式如下:
$x_{k+1}=x_k-\frac{f(x_k)}{f^{\prime }(x_k)}$
具体实例：求一个数的平方根,$x^2=y0$，那么方程为$f(x)=x^2-y0$，迭代公式如下
$x_{n+1}==x_n-\frac{x_n^2-y_0}{2x_n}=(x_n+y_0/x_n)/2$ ①
迭代循环使用该公式，求得近似与y0的根的值，代码实现：

def mySqrt(y)：
    # 求y的平方根
    r = y  # r初始值为y
    while r * r > y:
        r = (r + y / r) / 2
    return r

mySqrt(10) # 3.162277660168379