SVM是一个纯公示推导的一个分类器。
第一层次:硬间隔模型,这种情况针对完全线性可分的情况。
第二层次:软间隔模型,这种情况针对每个样本,容许一个小错误,以取得最小的分类错误为目标。
第三层次:不适合线性可分的情况。通过核函数将样本映射到别的空间,即将原来的超曲面空间映射到之后的超平面空间。
SVM的求解步骤:
首先得到问题的拉格朗日对偶形式,然后利用SMO贪婪算法进行求解。
tips:由于KKT条件与问题的解是充分必要条件的关系,因此找到一组符合KKT条件的解即为原问题的解。
SMO算法的C语言代码:http://download.youkuaiyun.com/detail/zjh4213/6014073
(在具体程序实现时,需要很多细节性的处理)