学习笔记-3-SVM-9-Twin SVM

---

Outline

1. Motivation

2. Geometry

3. Algebraic manipulation

4. Observations

------------------------------

1. Motivation

Twin SVM的基本出发点是做二分类时，为什么我们只用1个分割超平面，为什么不能用两个呢？

这里是想用两个超平面来处理，一类点A围绕在超平面A旁边，一类点B围绕在超平面B旁边。得到两个non-parallel SVM hyperplane, 新来的点，离哪个超平面比较近，就属于哪一类。Twin SVM比较接近clustering的观念。

对比(a)与(b)的判断方式

• (a)是传统的SVM，新来一个点，要么在separation hyperplane上面，+1那一侧；要么在hyperplane的下面，-1那一侧。

• (b)是Twin SVM，新来一个点，either离hyperplane 1比较近，or 离hyperplane 2比较近。

------------------------------

从结论的角度来先说为什么要折腾Twin SVM

是因为Twin SVM的东西表现不比SVM差，而且计算快。虽然需要做两个SVM model, 但是每个SVM model的constraints要比传统的SVM少很多。从computational experiments上来看，效果不差，而且时间只要传统SVM的1/4 on average.</