机器学习实战python实例（2）SVM

xiaonannanxn

于 2016-08-30 18:56:33 发布

阅读量2.5k

点赞数

本文链接：https://blog.youkuaiyun.com/xiaonannanxn/article/details/52372085

版权

本文通过Python实现SVM的SMO算法，详细介绍了算法过程，并提供了相关数学推导链接。同时，文章给出了SVM分类的示例，强调了松弛变量在处理离群点时的作用。附带训练数据链接，目前代码针对小规模数据集，后续将优化算法并引入核函数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

使用smo算法实现svm
以下代码涉及到的公式推导参照于以下两篇文章，数学推导的部分写的非常好！（如果不了解数学推导过程，代码中的一些部分很可能看不懂）
http://www.thebigdata.cn/JieJueFangAn/12661.html
http://www.wengweitao.com/zhi-chi-xiang-liang-ji-smoxu-lie-zui-xiao-zui-you-hua-suan-fa.html#fnref:calculate
对svm的简要理解可以参见我之前写的http://blog.youkuaiyun.com/xiaonannanxn/article/details/52352207

首先我们建立一个SVM.py

# coding:utf-8
from numpy import *
import matplotlib.pyplot as plt

def loadDataSet(filename):
    dataMat = []
    labelMat = []
    fr = open(filename)
    for line in fr.readlines():
        lineArr = line.strip().split('\t')
        dataMat.append([float(lineArr[0]), float(lineArr[1])])
        labelMat.append(float(lineArr[2]))
    return dataMat, labelMat


def selectJrand(i, m):
    j = i
    while j == i:
        j = int(random.uniform(0, m))
    return j


def clipAlp

最低0.47元/天解锁文章