17、支持向量机训练与特征选择技术解析

支持向量机训练与特征选择技术解析

1. 最陡上升法性能评估

在对模糊成对支持向量机进行训练时，使用了Sun UltraSPARC - IIi（335MHz）工作站，针对甲状腺、血细胞和片假名数据集开展实验。将输入范围缩放至[-1, 1]，采用多项式核和RBF核。对于L1和L2 SVM的模拟，使用的参数如下：C = 5000，εb = 10⁻²，εvar = 10⁻⁶，εq = 10⁻⁷，Nite = 10，Nq = 50。不过对于甲状腺数据和血细胞数据，Nq = 50过小，因此进行了调整：甲状腺数据（d ≠ 4）和血细胞数据，Nq = 100；甲状腺数据（d = 4），Nq = 600。

为了与二次规划技术的训练时间进行对比，使用了伦敦大学开发的软件，并采用原始 - 对偶内点法（PDIP）作为优化技术，工作集大小设为50。

不同训练方法的结果如下表所示：
| 数据 | 参数 | PDIP (s) | SMO (s) | SAM (s) | L2 SMO (s) | L2 SAM (s) |
| — | — | — | — | — | — | — |
| 甲状腺 | 线性 | 38 (40) | 1531 (1) | 931 (1.6) | 3650 (0.42) | 154 (9.9) |
| | d4 | 14 (145) | 2032 (1) | 109 (19) | 2362 (0.86) | 134 (15) |
| | γ10 | 108 (37) | 4044 (1) | 424 (9.5) | 4309 (0.94) | 390 (10) |
| 血细胞 | 线性 | 20 (23) | 463 (1) |