机器学习 七 ----SVM

1.SVM简介

支持向量机（Support Vector Machine，简称SVM）是一种经典的机器学习算法，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；SVM还包括核技巧，这使它成为实质上的非线性分类器。SVM的的学习策略就是间隔最大化，可形式化为一个求解凸二次规划的问题。

2.线性SVM的算法原理

支持向量机（SVM）的基本想法是求解能够正确划分训练数据集并且几何间隔最大的分离超平面。对于线性可分的数据集来说，这样的超平面有无穷多个，但是几何间隔最大的分离超平面却是唯一的。

首先，我们定义超平面关于样本点 (xi​,yi​) 的几何间隔为。超平面关于所有样本点的几何间隔的最小值为 。

SVM模型的求解最大分割超平面问题可以表示为以下约束最优化问题：