核函数详解
要计算高纬空间的点积可以对在低维空间的点积做复合运算得到相同的结果
https://blog.youkuaiyun.com/kateyabc/article/details/79980880
方法原理
根据模式识别理论,低维空间线性不可分的模式通过非线性映射到高维特征空间则可能实现线性可分,但是如果直接采用这种技术在高维空间进行分类或回归,则存在确定非线性映射函数的形式和参数、特征空间维数等问题,而最大的障碍则是在高维特征空间运算时存在的"维数灾难"。采用核函数技术可以有效地解决这样问题。
设x,z∈X,X属于R(n)空间,非线性函数Φ实现输入空间X到特征空间F的映射,其中F属于R(m),n<<m。根据核函数技术有:
K(x,z) =<Φ(x),Φ(z) > (1)
其中:<, >为内积,K(x,z)为核函数。从式(1)可以看出,核函数将m维高维空间的内积运算转化为n维低维输入空间的核函数计算,从而巧妙地解决了在高维特征空间中计算的"维数灾难"等问题,从而为在高维特征空间解决复杂的分类或回归问题奠定了理论基础。
https://www.zhihu.com/question/33268516/answer/989712682
https://blog.youkuaiyun.com/qinghuaci666/article/details/81914791
https://www.zhihu.com/question/21883548
核函数的种类和应用场景。
线性核、多项式核、高斯核。
线性可分或者特征维数高
或者样本数量非常多选择线性核(避免造成庞大的计算量)
样本数量可观、特征少选择高斯核(非线性核) 通用