1.有些时候,有噪声点数据是线性不可分的,这样的话就无法以用硬间隔去做,只能用软间隔SVM。(目的:为了去解决一些线性不可分的数据集)
软间隔SVM在硬间隔的基础上加入了松弛变量。
2.即约束条件相对硬间隔发生了改变
3.通过拉格朗日函数构造目标函数,(μ是乘子,符号可以随便起)
其中要求μi 和αi>=0
4.优化原始问题
5.变成对偶问题
6.对 3 个参数分别求偏导得到一定的信息,反带回拉格朗日函数
7.带回拉格朗日函数
8.得到结果发现和硬间隔目标函数一样,但是约束条件发生了改变
9.求最大变成求最小,最后三项合并成一项,目标函数变成
10.软间隔SVM相对于硬间隔SVM多了个约束条件C
仍然用SMO算法来求解。
11.