在之前就一直总是零零碎碎了解过这个热及一时的统计学方法对样本进行分类的支持向量机算法。一直想系统的了解一下支持向量机这个很强的分类算法,有幸在周老师的机器学习这本书中进行系统的学习。
这里我只列出一些需要重点理解的概念,以方便以后自己进行回顾,在博客中也阅读了牛人写的一篇对svm有详细介绍的文章,文章分三层介绍,不过总之来讲可以说跟周老师讲解的很相近,附上链接
http://blog.youkuaiyun.com/macyang/article/details/38782399/支持向量机通俗导论(理解SVM的三层境界)
需要理解的概念:
1、间隔与支持向量
2、最大间隔
3、划分超平面
4、拉格朗日乘子
5、训练完成后,大部分训练样本都不需要保留,最终模型只与支持向量有关
6、核函数
7、如果原始空间是有限维,即属性数有限,那么一定存在一个高维特征空间使样本可分
8、硬间隔
9、软间隔
10、松弛变量
11、正则化
12、支持向量回归(SVR)
13、核方法
14、核线性判别分析(KLDA)