支持向量机（SVM）

SVM是有监督学习、属于判别模型（决策函数），非线性，有预测函数，有优化目标，有求解算法（SMO）

  支持向量机（Support Vector Machine, SVM）的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法，在引入了核方法之后SVM也可以用来解决非线性问题。 

一般SVM有下面三种：

硬间隔支持向量机（线性可分支持向量机）：当训练数据线性可分时，可通过硬间隔最大化学得一个线性可分支持向量机。
软间隔支持向量机：当训练数据近似线性可分时，可通过软间隔最大化学得一个线性支持向量机。
非线性支持向量机：当训练数据线性不可分时，可通过核方法以及软间隔最大化学得一个非线性支持向量机。
 

三个要素：模型（从数据和目的构建出的决策函数或概率分布）、策略（构造优化目标）、算法（求解优化目标的方法）

针对线性可分的情况： 

1、模型：也就是需要学习的决策函数由以下可知：