17、支持向量机变体性能对比与优化策略

支持向量机变体性能对比与优化策略

在机器学习领域，支持向量机（SVM）是一种强大的分类工具。不同变体的SVM在不同类型的数据集上表现各异，下面将对L1、L2、LS、SLS和LP SVM这几种变体在二分类、微阵列和多分类数据集上的性能进行详细比较，并介绍增强SVM鲁棒性、融入贝叶斯理论以及增量训练的相关内容。

不同分类器的性能比较

二分类问题

对于二分类问题，使用了RBF核。通过五折交叉验证确定γ和C的值，γ从{0.1, 0.5, 1, 5, 10, 15}中选择，C从{1, 10, 50, 100, 500, 1,000, 2,000}中选择。
| 数据 | L1 SVM（γ, C, SVs） | LS SVM（γ, C, SVs） | LP SVM（γ, C, SVs） |
| — | — | — | — |
| Banana | 15, 100, 101±10 | 10, 500, 400 | 15, 100, 18±1.5 (106±11) |
| B. cancer | 1, 10, 114±5.5 | 0.5, 10, 200 | 1, 50, 24±2.1 (115±6.2) |
| Diabetes | 0.5, 50, 250±7.9 | 10, 1, 468 | 0.1, 100, 8.6±0.73 (255±7.8) |
| Flare - solar | 1, 10, 448±13 | 0.1, 100, 666 | 5, 1, 13±3.1 (454±13) |
| German | 0.5, 50, 388±11 | 0.5, 50, 700 | 5, 1, 28±2.7 (410