数学建模(4)拟合算法
和插值比较
插值经过所有样本点,多项式次数过高,可能会有龙格现象,结果可能比较复杂。
拟合与样本点足够接近,得到确定的曲线,结果比较简单。
最小二乘法
例如是个直线,使用 y = k x + b y=kx+b y=kx+b
k ^ , b ^ = a r g m i n ( ∑ i = 1 n ( y i − y i ^ ) 2 ) \widehat{k},\widehat{b}=argmin(\sum_{i=1}^n(y_i-\widehat{y_i})^2) k ,b =argmin(i=1∑n(yi−yi )2)
也可以不使用平方,使用绝对值,但是求导会很头疼。
损失函数 L L L,在回归中称为残差平方和
L = ∑ i = 1 n ( y i − k x i − b ) 2 L=\sum^n_{i=1}(y_i-kx_i-b)^2 L=i=1∑n(yi−kxi−b)2
推导过程略,我也没推
k ^ = n ∑ i = 1 n x i y i − ∑ i = 1 n y i ∑ i = 1 n x i n ∑ i = 1 n x i 2 − ∑ i = 1 n x i ∑ i = 1 n x i \widehat{k}=\frac{n\sum_{i=1}^nx_iy_i-\sum_{i=1}^ny_i\sum_{i=1}^nx_i}{n\sum_{i=1}^nx_i^2-\sum_{i=1}^nx_i\sum_{i=1}^nx_i}