第六章 支持向量机学习笔记
1. 间隔与支持向量
1.1 什么是间隔和支持向量？
在分类学习中，目标是找到划分超平面将不同类别样本分开。最优超平面应位于两类样本的"正中间"，这种超平面对局部扰动容忍性最好，具有最强泛化能力。
1.2 如何找到最大间隔划分超平面？
- 超平面方程：wTx+b=0w^T x + b = 0wTx+b=0（www为法向量，bbb为位移项）
- 样本约束条件：
- yi=+1y_i=+1yi=+1时，wTxi+b≥1w^T x_i + b \geq 1wTxi+b≥1
- yi=−1y_i=-1yi=−1时，wTxi+b≤−1w^T x_i + b \leq -1wTxi+b≤−1
- 优化目标：最大化2∥w∥\frac{2}{\|w\|}∥w∥2等价于最小化12∥w∥2\frac{1}{2}\|w\|^221∥w∥2
1.3 支持向量机的基本型
minw,b12∥w∥2s.t.yi(wTxi+b)≥1, i=1,2,…,m \min_{w,b} \frac{1}{2} \|w\|^2 \quad \text{s.t.} \quad y_i(w^T x_i + b) \geq 1,\ i=1,2,\ldots,m w,bmin
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
