10、机器学习与深度学习入门：从OC - SVM到神经网络

机器学习与深度学习入门：从OC - SVM到神经网络

1. OC - SVM算法概述

OC - SVM（单类支持向量机）是一种强大的异常检测算法。它具有一些显著的优点，但也存在一定的局限性。

1.1 OC - SVM的优点

• 高维数据处理能力 ：OC - SVM通过核技巧将数据映射到更高维度，从而能够处理高维数据。不过，它也受到“维度诅咒”的影响，在高维空间中需要更多的数据来准确捕捉决策边界。
• 无监督与半监督学习 ：该算法可以进行无监督训练，同时，如果有部分标签数据，也能以半监督的方式使用。
• 非线性决策边界 ：借助如RBF（径向基函数）等核函数，OC - SVM可以将数据映射到非线性的超维空间，然后进行线性分离，最终在原始空间中形成非线性决策边界。

1.2 OC - SVM的缺点

• 超参数敏感 ：OC - SVM对超参数非常敏感，训练样本数量的增加可能需要重新调整超参数。
• 对噪声数据的处理能力弱 ：当数据存在噪声，正常数据点和异常点出现重叠时，决策边界难以建模，模型可能会将正常的噪声数据点误判为异常。
• 扩展性差 ：随着数据量的增加，OC - SVM的性能会显著下降。不过，可以通过使用核映射器将数据进行RBF核变换，然后使用基于随机梯度下降求解器的线性SVM来近似求解。