10、机器学习与深度学习基础：从OC - SVM到神经网络

机器学习与深度学习基础：从OC - SVM到神经网络

1. OC - SVM算法概述

OC - SVM（单类支持向量机）是一种强大的异常检测算法。它可以通过核技巧处理高维数据，能够在无监督的情况下进行训练，并且借助如RBF（径向基函数）等核函数可以构建非线性决策边界。

• 优点 ：
  • 高维数据处理 ：利用核技巧将数据映射到更高维度，从而处理高维数据。不过，它也受“维度诅咒”影响，在高维空间需要更多数据来确定合适的决策边界。
  • 无监督学习 ：可以进行无监督训练，若有部分标记数据，也能进行半监督学习。
  • 非线性决策边界 ：借助核函数，数据先被映射到非线性的高维空间，再进行线性分离，最终在原始空间形成非线性决策边界。
• 缺点 ：
  • 超参数敏感 ：OC - SVM对超参数设置非常敏感，增加训练样本数量时，可能需要重新调整超参数。
  • 噪声数据处理困难 ：当数据存在噪声，正常数据点与异常点有重叠时，难以准确建模决策边界，模型可能会将正常噪声数据点隔离以识别异常。
  • 扩展性差 ：随着数据量增加，算法扩展性不佳。不过，可以使用核映射器通过RBF核转换数据，再使用基于随机梯度下降求解器的线性SVM来