算法学习——支持向量机SVM

SVM现在的公式推导很多，都是现成的，而且写的也很好，我会提供相关资源，这篇博文主要从思想理解的方面做一个简单介绍。

1、SVM 是如何工作的？

支持向量机的基础概念可以通过一个简单的例子来解释。让我们想象两个类别：红色和蓝色，我们的数据有两个特征：x 和 y。我们想要一个分类器，给定一对（x，y）坐标，输出仅限于红色或蓝色。我们将已标记的训练数据列在下图中：

 

支持向量机会接受这些数据点，并输出一个超平面（在二维的图中，就是一条线）以将两类分割开来。这条线就是判定边界：将红色和蓝色分割开。

 

但是，最好的超平面是什么样的？对于 SVM 来说，它是最大化两个类别边距的那种方式，换句话说：超平面（在本例中是一条线）对每个类别最近的元素距离最远。

 

这里有一个通俗易懂的视频解释可以告诉你最佳的超平面是如何找到的（有简单的计算）：