14、线性模型与判别模型学习框架解析

线性模型与判别模型学习框架解析

支持向量机（SVM）相关内容

1. 非线性SVM的强大能力
   非线性SVM借助非线性RBF核函数，能够构建复杂的分离边界，这充分展示了在选用合适核函数的情况下，非线性SVM是非常强大的模型。
2. 求解二次规划问题
   • 问题描述 ：各种SVM公式最终都归结为求解如下类型的稠密二次规划问题：
     [
     \min_{\alpha} L(\alpha) = \frac{1}{2} \alpha^{\top}Q\alpha - \mathbf{1}^{\top}\alpha
     ]
     约束条件为 ( \mathbf{y}^{\top}\alpha = 0 )，( 0 \leq \alpha \leq C )，其中
     [
     \alpha =
     \begin{bmatrix}
     \alpha_1 \
     \vdots \
     \alpha_N
     \end{bmatrix} {N\times1}
     ]
     是优化变量，矩阵 ( \mathbf{y} )、( \mathbf{1} ) 和 ( Q ) 由训练数据构建：
     [
     \mathbf{y} =
     \begin{bmatrix}
     y_1 \
     \vdots \
     y_N
     \end{bmatrix} {N\times1}
     ]
     [
     \mathbf{1} =
     \begin{bm