机器学习之支持向量机SVM

支持向量机

• 概念

  是supported vector machine（支持向量机），即寻找一个超平面使样本分成两类，且间隔最大分类

• 分类

  • 硬间隔

    • 若样本线性可分，且所有样本分类正确情况下，寻找最大间隔，即硬间隔

    • 若出现异常值或样本不能线性可分，则无法实现

  • 软间隔

    • 允许部分样本，在最大间隔之间，甚至在错误的一边，寻找最大间隔，即软间隔

    • 目标是尽可能保持间隔宽阔和限制间隔违例之间找到良好平衡

• 核函数Kernel

  将原始输入空间映射到新的特征空间，使得原本线性不可分样本在核空间可分

SVMAPI

• class sklearn.svm.LinearSVC(C=1)

• C：惩罚参数，类似于线性回归中正则化系数

• LinearSVC API使用方法

  • 导包：from sklearn.svm import LinearSVC

  • 实例化： mysvc = LinearSVC(C=30)

  • 训练模型：mysvc.fit(X_standard,y)

  • 输出准确率：print(myscv.score(X_standard,y))

• 惩罚参数C对超平面