9、支持向量机的特性、分类边界与分类器开发

支持向量机的特性、分类边界与分类器开发

1. 解决方案的特性

1.1 减少支持向量数量的分类加速

通过将支持向量数量减少到两个（d = 1），可以实现分类加速。以下是不同数据集的加速情况：
| 数据 | 原始支持向量数 | 减少后的支持向量数 | 原始时间 (s) | 减少后时间 (s) | 加速比 |
| — | — | — | — | — | — |
| 血细胞 | 14 | 8 | 1 | 8.0 | 8.0 |
| 甲状腺 | 80 | 33 | 10 | 3.3 | 3.3 |
| 平假名 - 50 | 11 | 263 | 49 | 5.4 | 5.4 |
| 平假名 - 13 | 7 | 113 | 31 | 3.6 | 3.6 |
| 平假名 - 105 | 13 | 1029 | 158 | 6.5 | 6.5 |

1.2 退化解决方案

对于 L1 和 L2 支持向量机，都存在退化解决方案，即 w = 0 的情况。
- 定理 ：设 C = K C0，其中 K 和 C0 为正参数，α∗ 是 K = 1 时 L1 支持向量机的解。定义 (w(α) = \sum_{i=1}^{M} α_i y_i φ(x_i))，则 (w(α∗) = 0) 的充要条件是对于任何 K (> 1)，Kα∗ 也是解。
- 证明 ：
- 必要条件 ：假设 α′ 是 C = KC0 (K > 1) 的最优解且 (w(α′) \neq 0)，通过