SVM算法编程练习

最新推荐文章于 2025-10-09 01:34:11 发布

原创

最新推荐文章于 2025-10-09 01:34:11 发布 · 471 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #机器学习

本文通过实例介绍了SVM算法中超参数C和核函数γ的作用。C控制正则项，影响模型的容忍错误程度，而γ决定了高斯核函数的宽度，进而影响模型复杂度。通过调整这两个参数，可以实现从线性到非线性决策边界的转变，以及避免过拟合和欠拟合的问题。

文章目录

1.增加了一个超参数 C C 来控制正则项的重要程度。 C C 越小容错空间越大。
- 1.1绘制这个决策边界
2.使用多项式特征和核函数~
3.核函数
- 3.1产生测试点以及绘制散点图
4.超参数 \gamma γ

1.增加了一个超参数 C C 来控制正则项的重要程度。 C C 越小容错空间越大。

代码：

import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.preprocessing import StandardScaler
from sklearn.svm import LinearSVC
iris = datasets.load_iris()
X = iris.data
y = iris.target
X = X [y<2,:2] #只取y<2的类别，也就是0 1 并且只取前两个特征
y = y[y<2] # 只取y<2的类别
# 分别画出类别0和1的点
plt.scatter(X[y==0,0],X[y==0,1],color='red') 
plt.scatter(X[y==1,0],X[y==1,1],color='blue')
plt.show()
# 标准化
standardScaler = StandardScaler()
standardScaler.fit(X) #计算训练数据的均值和方差
X_standard = standardScaler.transform(X) #再用scaler中的均值和方差来转换X，使X标准化
svc = LinearSVC(C=1e9) #线性SVM分类器
svc.fit(X_standard,y) # 训练svm

运行结果：
在这里插入图片描述

1.1绘制这个决策边界

代码：

def plot_decision_boundary(model, axis):
    x0, x1 = np.meshgrid(
        np.linspace(axis[0], axis[1], int((axis[1]-axis[0])*100)).reshape(-1,1),
        np.linspace(axis[2], axis[3], int((axis[3]-axis[2])*100)).reshape(-1,1)
    )
    X_new = np.c_[x0.ravel(), x1.ravel()]
    y_predict = model.predict(X_new)
    zz = y_predict.reshape(x0.shape)
    from matplotlib.colors import ListedColormap
    custom_cmap = ListedColormap(['#EF9A9A','#FFF59D','#90CAF9'])
    plt.contourf(x0, x1, zz, linewidth=5, cmap=custom_cmap)
# 绘制决策边界
plot_decision_boundary(svc,axis=[-3,3,-3,3]) # x,y轴都在-3到3之间
# 绘制原始数据即散点图
plt.scatter(X_standard[y==0,0],X_standard[y==0,1],color='red') 
plt.scatter(X_standard[y==1,0],X_standard[y==1,1],color='blue')
plt.show()

运行结果：