DaVinciL的博客

一、SVM原理 1. 线性可分支持向量机 minimizeαminimizeαminimize_{\alpha}  12∑i=1N∑j=1Nαiαjyiyj(xi,xj)−∑i=1Nαi12∑i=1N∑j=1Nαiαjyiyj(xi,xj)−∑i=1Nαi\frac{1}{2} \sum\limits_{i=1}^{N} \sum\limits_{j=1}^{N} \alpha_{i} ...

一、支持向量机  支持向量机（support vector machines，简称SVM）是一种非常高效的分类器，再神经网络出现前，SVM被称为最强分类器。SVM的核心思想就是，对于两个类别的数据，每个数据点都可以抽象为多维空间中的一个坐标点，每一个点都对应于一个标签。那么我们已经知道这两个类别可以被一个超平面相隔开，即再超平面的一侧是一个类别，另一侧是另一个类别。很明显。再绝大多数情况下，这样...

一、硬间隔SVM和软间隔SVM  前面简单介绍了以下线性可分SVM，本质上前面介绍的SVM属于硬间隔SVM，因为我们已经知道存在一个超平面 S:ω⋅x+b=0S:\omega \cdot x + b = 0S:ω⋅x+b=0 可以将所有的样本数据完美分开。但是实际上，并不是所有的样本数据都这么完美。有时候存在这种情况，给定一个样本数据集，绝大多数的样本都是线性可分的，但是存在某些特别的样本是线性...