【机器学习实战】支持向量机

SVM(Support Vector Machine)指的是支持向量机。在机器学习领域，是一个有监督的学习模型，通常用来进行模式识别、分类以及回归分析。下面用鸢尾花数据集利用svm进行分类。

试玉要绕三日满，辩才需待七年期。（白居易）

SVM算法

from sklearn import svm # svm
import numpy as np
from sklearn import model_selection  # 模型选择
import matplotlib.pyplot as plt
import matplotlib as mpl
from matplotlib import colors
mpl.rcParams['font.sans-serif'] = [u'SimHei']
mpl.rcParams['axes.unicode_minus'] = False

# 转换类别函数
def iris_type(s):
    class_label = {b'Iris-setosa': 0, b'Iris-versicolor': 1, b'Iris-virginica': 2}
    return class_label[s]

# 导入txt文件（逗号分割，并做数据转换）
filepath = 'iris.txt'
data = np.loadtxt(filepath, dtype=float, delimiter=',', converters={4: iris_type})
# print(data)

# 训练和测试集
X, y = np.split(data, (4,),axis=1)
x = X[:, 0:2]  # 取前两列
x_train, x_test, y_train, y_test = model_selection.train_test_split(x, y, random_state=1, test_size=0.3) # 测试集占30%

# 建模
# classifier=svm.SVC(kernel='linear',gamma=0.1,decision_function_shape='ovo',C=0.1) # 线性核函数，C越大分类效果越好
classifier = svm.SVC(kernel='rbf', gamma=0.1, decision_function_shape='ovo', C=0.8) # 高斯核，gamma越大，分类效果越好；'ovo'时，二分类；'ovr'时，为多分类
classifier.fit(x_train, y_train.ravel())

# 预测
print("训练准确率：", classifier.score(x_train, y_train))
y_hat = classifier.predict(x_train) # 训练预测值
print("测试准确率：", classifier.score(x_test, y_test))
y_hat = classifier.predict(x_test) #测试预测值

训练准确率： 0.8380952380952381
测试准确率： 0.7777777777777778

### 可视化（建立网格）
x1_min, x1_max = x[:, 0].min(), x[:, 0].max()  # 第1列范围值
x2_min, x2_max = x[:, 1].min(), x[:, 1].max()  # 第2列范围值
x1, x2 = np.mgrid[x1_min:x1_max:200j, x2_min:x2_max:200j]  # 网格采样点x1,x2(均200x200)
grid_test = np.stack((x1.flat, x2.flat), axis=1)  # 分成多个测试点（40000x2）
grid_hat = classifier.predict(grid_test)  # 对分的每一小份进行预测（40000x1）
grid_hat = grid_hat.reshape(x1.shape)  # 转换为200x200

# 绘图1
cm_light = mpl.colors.ListedColormap(['#A0FFA0', '#FFA0A0', '#A0A0FF']) #绿红蓝颜色；若用'g', 'r', 'b'颜色较深
plt.pcolormesh(x1, x2, grid_hat, cmap=cm_light)  # 显示区域颜色
plt.plot(x[:, 0], x[:, 1], 'o', color='blue')
plt.scatter(x_test[:, 0], x_test[:, 1], s=120, facecolors='red', zorder=10)  # 圈中测试集样本(标记红点)
plt.xlabel(u'花萼长度', fontsize=13)
plt.ylabel(u'花萼宽度', fontsize=13)
plt.xlim(x1_min, x1_max)
plt.ylim(x2_min, x2_max)
plt.title(u'SVM分类', fontsize=15)

y_train_hat = classifier.predict(x_train)
y_train_1d = y_train.reshape((-1))
comp = zip(y_train_1d, y_train_hat)  # 实际与预测训练结果整合
# print(list(comp))

y_test_hat = classifier.predict(x_test)
y_test_1d = y_test.reshape((-1))
comp = zip(y_test_1d, y_test_hat) # 实际与预测测试结果整合
# print(list(comp))

# 绘图2
plt.figure()
x=np.arange(x_test.shape[0])
plt.scatter(x, y_test_1d,marker='o',color='b',s=50) # 拟合图
plt.scatter(x, y_test_hat,marker='+',color='r',s=50)
plt.legend(labels=['estimate','real'], loc='upper right')
plt.title(u'SVM预测', fontsize=15)
plt.show()

图为对训练样本进行分类（标红为测试样本）。

图为对测试样本进行预测。

但利用SVM做回归的方法是没有意义的，因为它将标签处理为0，1，2已经不具有真实数据的属性，可考虑SVR来做回归。

说明：本文是从相关博文的分享总结与补充而来，如有疑问，还望各位同仁与前辈指正。

附作者相关研究：
Python:
Python实现线性回归、逻辑回归、KNN、SVM、朴素贝叶斯、决策树、K-Means7种机器学习算法的经典案例——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/20715889
Python实现飞机大战的完整代码——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/57165535
Python爬虫获取豆瓣网评分Top200的电影——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/56379309
Python根据下拉选项绘制雷达图和柱形图（异常预控平台）——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/20715210
Python根据下拉选项绘制雷达图和柱形图（异常预控平台）——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/20715210
python实现雷达图——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/20695215
基于python的北京房屋出租数据可视化分析与3D展示——亲测可用，链接
https://download.youkuaiyun.com/download/qq_35778860/20675051
基于Python设计的web接口聊天机器人
https://download.youkuaiyun.com/download/qq_35778860/66662593
用Python进行自然语言处理（中文）.rar
https://download.youkuaiyun.com/download/qq_35778860/63652414
《机器学习实战》全书python代码——很全很完整
https://download.youkuaiyun.com/download/qq_35778860/62203534
Python3实现十大排序算法
https://download.youkuaiyun.com/download/qq_35778860/61630851
C#
成绩管理系统(C/S结构的应用系统，含access数据库)——C#实现
https://download.youkuaiyun.com/download/qq_35778860/66967387
C#实现学生信息管理系统（包括增删改查功能）——亲测可用
https://download.youkuaiyun.com/download/qq_35778860/61620149
Matlab
极限学习机ELM+OSELM+KELM+半监督SSELM+USELM的matlab程序(附完整代码)
https://download.youkuaiyun.com/download/qq_35778860/56378533
P+近邻KNN+LS最小二乘算法的matlab代码——亲测可用（含实例）
https://download.youkuaiyun.com/download/qq_35778860/56378309
基于matlab的卷积神经网络实现手写数字识别
https://download.youkuaiyun.com/download/qq_35778860/66667747
基于MATLAB的人工蜂群算法
https://download.youkuaiyun.com/download/qq_35778860/66665944
利用MATLABsilulink搭建有源电力滤波器仿真.zip
https://download.youkuaiyun.com/download/qq_35778860/63659150
动态规划MATLAB程序.zip
https://download.youkuaiyun.com/download/qq_35778860/63658838
基于matlab的模式识别基础实例源代码.zip
https://download.youkuaiyun.com/download/qq_35778860/63658486
Matlab_动态窗口法实现机器人在障碍环境下的模拟避碰仿真.zip
https://download.youkuaiyun.com/download/qq_35778860/63658232
bp神经网络整定pid参数matlab应用程序.rar
https://download.youkuaiyun.com/download/qq_35778860/63656174
利用深度学习的matlab程序编码仿真实现图像分割.zip
https://download.youkuaiyun.com/download/qq_35778860/63655267
Java
基于java的信息管理系统
https://download.youkuaiyun.com/download/qq_35778860/66658535
Java swing学生成绩系统（源码+数据库脚本）.rar
https://download.youkuaiyun.com/download/qq_35778860/63653951
Jsp
jsp学生信息管理系统（源码+数据库脚本）.zip
https://download.youkuaiyun.com/download/qq_35778860/63653655
SCN
随机配置网络SCN实现的matlab代码——亲测可用
https://download.youkuaiyun.com/download/qq_35778860/61636684
BLS
宽度学习BLS的matlab代码+Mnist数据集
https://download.youkuaiyun.com/download/qq_35778860/61635045
Mysql
Mysql增删改查代码操作，很全很完整——亲测可用
https://download.youkuaiyun.com/download/qq_35778860/61626574
C
基于单片机的交通灯控制系统设计（含代码，原理图）——C语言实现
https://download.youkuaiyun.com/download/qq_35778860/60383113
基于单片机的温度控制系统设计代码（含代码，原理图）——C语言实现
https://download.youkuaiyun.com/download/qq_35778860/60379923
郭天祥51单片机书中400例程——亲测可用
https://download.youkuaiyun.com/download/qq_35778860/58014293
其他
微信转盘抽奖小程序源码.rar
https://download.youkuaiyun.com/download/qq_35778860/63652890