统计学习方法 第七章 支持向量机

第七章

7.2 线性支持向量机与软间隔最大化

• 训练数据中有一些特异点，将特异点除去后，剩下大部分的样本点组成的集合是线性可分的。
  

• 可证明w的解是唯一的，b不是，而是存在于一个区间。【对于线性可分支持向量机的w,b是唯一的】

• 由于现实中训练数据集往往是线性不可分的，线性支持向量机具有更广的适用性

7.3 非线性支持向量机与核函数

• 采取的方法是进行一个非线性变换，将非线性问题变换 为线性问题，通过解变换后的线性问题的方法求解原来 的非线性问题。

• 核技巧：通过一个非线性变换将输入空间(欧氏空间R”或离散集合) 对应于一个特征空间(希尔伯特空间)，使得在输入空间中 的超曲面模型对应于特征空间中的超平面模型(支持向量 机)。分类问题的学习任务通过在特征空间中求解线性支 持向量机就可以完成.

• 注意：φ是 输入空间Rn到特征空间H的映射，特征空间
  H一般是高维，映射函数和特征空间的取法并不唯一。

• 通常所说的核函数就是正定核函数