SVM深入理解&人脸特征提取

本文深入探讨了支持向量机(SVM),包括其基本原理、软间隔优化目标和异常处理机制,并介绍了如何利用核函数解决线性不可分问题。通过月亮数据集和鸢尾花数据集的案例,展示了线性SVM与多项式核、高斯核在实际分类任务中的应用,以直观的方式阐述了SVM的分类效果和参数调整。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、支持向量机

支持向量机(Support Vector Machine,常简称为SVM)是一种监督式学习的方法,可广泛地应用于统计分类以及回归分析。
它是将向量映射到一个更高维的空间里,在这个空间里建立有一个最大间隔超平面。在分开数据的超平面的两边建有两个互相平行的超平面,分隔超平面使两个平行超平面的距离最大化。假定平行超平面间的距离或差距越大,分类器的总误差越小。
在这里插入图片描述

1. SVM

支持向量机的基本型
在这里插入图片描述
软间隔的优化目标
在这里插入图片描述
SVM异常处理机制
在这里插入图片描述

2. 核函数

对于线性不可分问题,线性可分支持向量机并不能有效解决。
在这里插入图片描述
非线性:

  • 首先使用一个非线性映射将数据变换到另一个特征空间
  • 在高维的特征空间中使用线性学习器分类
    SVM对偶形式的求解
    在这里插入图片描述
    模型的最优解可通过训练样本的核函数展开,这一展开式称之为“支持向量机展式”

二、月亮数据集

1. 线性SVM

1.导入包

# 导入月亮数据集和svm方法
#这是线性svm
from sklearn import datasets #导入数据集
from sklearn.svm import LinearSVC #导入线性svm
from matplotlib.colors import ListedColormap
from sklearn.preprocessing import StandardScaler

2.获取响应的月亮数据集
在这里插入图片描述
3.进行标准化并进行数据训练

scaler=StandardScaler()# 标准化
scaler.fit(data_x)#计算训练数据的均值和方差
data_x=scaler.transform(data_x) #再用scaler中的均值和方差来转换X,使X标准化
liner_svc=LinearSVC(C=1e9,max_iter=100000)#线性svm分类器,iter是迭达次数,c值决定的是容错,c越大,容错越小
liner_svc.fit(data_x,data_y)

4.绘制边界函数,进行后续可视化分类

# 边界绘制函数
def plot_decision_boundary(model,axis):
    x0,x1=np.meshgrid(
        np.linspace(axis[0],axis[1],int((axis[1]-axis[0])*100)).reshape(-1,1),
        np.linspace(axis[2],axis[3],int((axis[3]-axis[2])*100)).reshape(-1,1))
    # meshgrid函数是从坐标向量中返回坐标矩阵
    x_new=np.c_[x0.ravel(),x1.ravel()]
    y_predict=model.predict(x_new)#获取预测值
    zz=y_predict.reshape(x0.shape)
    custom_cmap=ListedColormap(['#EF9A9A','#FFF59D','#90CAF9'])
    plt.contourf(x0,x1,zz,cmap=custom_cmap)

5.画图,输出参数已经截距权重

#画图并显示参数和截距
plot_decision_boundary(liner_svc,axis=[-3,3,-3,3])
plt.scatter(data_x[data_y==0,0],data_x[data_y==0,1],color='red')
plt.scatter(data_x[data_y==1,0],data_x
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值