本文介绍了核函数的发展历史、基本原理，强调了它如何解决‘维数灾难’问题，以及其在模式识别中的重要作用。核函数避免了高维计算，允许在不知非线性变换形式和参数的情况下应用。常见的核函数包括高斯、多项式、感知器和样条核。核函数方法通常包括核函数设计和算法设计两部分，被广泛应用于SVM、PCA、PLS等方法中，改进了传统模式识别技术的性能。
一、简介
（1）核函数发展历史
早在1964年Aizermann等在势函数方法的研究中就将该技术引入到机器学习领域，但是直到1992年Vapnik等利用该技术成功地将线性SVMs推广到非线性SVMs时其潜力才得以充分挖掘。而核函数的理论则更为古老，Mercer定理可以追溯到1909年，再生核希尔伯特空间(ReproducingKernel Hilbert Space, RKHS)研究是在20世纪40年代开始的。
（2）核函数方法原理
根据模式识别理论，低维空间线性不可分的模式通过非线性映射到高维特征空间则可能实现线性可分，但是如果直接采用这种技术在高维空间进行分类或回归，则存在确定非线性映射函数的形式和参数、特征空间维数等问题，而最大的障碍则是在高维特征空间运算时存在的“维数灾难”。采用核函数技术可以有效地解决这样问题。
设x,z∈X,X属于R（n）空间,非线性函数Φ实现输入间X到特征空间F的映射,其中F属于R（m）,n<<m。根据核函数技术有：
K(x,z) =<Φ(x),Φ(z) > (1)
最低0.47元/天 解锁文章
扫一扫
741
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
