机器学习的各种算法在于如何使用特定函数与已知的数据集相匹配,从而达到训练和测试的目的。本篇文章对一些近似的模型做一些相应的介绍。
线性模型
一维输入变量
假设学习对象f函数的输入是一组实数,那么对该函数进行近似的时候,最简单的方案就是
由于上面这个模型过于简单,那么在实际应用中,会对上述的模型进行必要的扩展,使得函数fθ(x)变成参数的线性模型,这样这个模型就可以用来表示非线性的输入和输出了。可以把θ⋅x扩展成如下形式:
fθ(x)=∑bj=1θj⋅ϕj(x)。
在这个式子中,ϕj(x)是基函数向量ϕ(x)=(ϕ1(x),⋅⋅⋅,ϕb(x))T的第j个分量,