12、支持向量机与聚类算法详解

支持向量机与聚类算法详解

1. 支持向量机（SVM）

1.1 Python 中的 SVM 代码

在 Python 中实现 SVM 模型，有线性核和径向基函数（RBF）核两种情况。以下是相关代码片段及说明：
- 线性核 SVM 分类器绘图代码 ：包含多个代码片段用于绘制整个线性核 SVM 分类器，如 Figure 10.25、Figure 10.26、Figure 10.27、Figure 10.28、Figure 10.29、Figure 10.30 所示。
- RBF 核 SVM 部分代码 ：Figure 10.32 展示了使用 SVM RBF 部分的代码。

1.2 模型选择建议

• 当特征数量非常多（大于一千）时，建议使用直接的 SVM 部分，因为数据很可能在高维空间中是线性可分的。
• 也可以使用 RBF 核，但要注意进行交叉验证以避免过拟合。

1.3 Gamma 参数的影响

Gamma 是“rbf”、“poly”和“sigmoid”核的系数。Gamma 值越高，模型会试图更紧密地拟合训练数据，可能导致过拟合，出现泛化误差等问题。以下是不同 Gamma 值的情况：
| Gamma 值 | 效果 |
| ---- | ---- |
| 0 | 对应代码片段 Figure 10.34，有相应的绘图 Figure 10.33、Figure 10.35 展示效果。 |
| 10 | 代码片段 Figure 10.36 展示了 gamm