svm-支持向量机

目标函数推导

点到超平面的距离公式：

$$\frac {|\omega^Tx+b|} {|| \omega ||}$$
在分类过程中， $f(x) = \omega^Tx+b$ 预测出的符号应与类标记 $y$一致。故 $y(\omega^Tx+b)$的正负性可以表示分类的正确性。
函数间隔：
$$\Upsilon=y {f(x)}$$
几何间隔：
$$\Upsilon=y \frac {f(x)} {||\omega||}$$
超平面最小几何间隔：
$${\overline{\Upsilon}}=\min y \frac {f(x)} {||\omega||}$$
最大间隔分类器的目标函数就是最大化最小几何间隔 ${\overline{\Upsilon}}$
$$\max {\overline{\Upsilon}}=\max \min y \frac {f(x)} {||\omega||}$$

即：
$$\max {\overline{\Upsilon}}=\max y \frac {f(x)} {||\omega||}$$

st.yi(ωTx