非线性支持向量机与核函数

本文探讨了如何使用非线性支持向量机解决复杂数据集的分类问题,通过将数据映射到高维空间,使之成为线性可分问题。关键在于核函数的应用,它允许我们在不知道具体映射函数的情况下,直接计算高维空间中的内积,简化计算。文章介绍了正定核函数的概念,并列举了线性、多项式和高斯核函数等常见类型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

很多时候我们遇到的数据集不能简单的被一条直线分开,比如下面的这个图:

 在原维度空间我们只能用椭圆曲线将其分开,但是在高维度中,它能简单的被一个面分开,这个三维图像映射到Z-Y面,我们会发现这个面变成了一条直线(如下图所示)。

在这个新的空间里,我们可以将它看成线性问题求解。所以我们想要的就是将非线性问题转化为线性问题,通过解变换后的线性问题的方法(前边提到的软间隔对偶算法)求解原来的非线性问题。

那么我们如何将原空间的点相应的变换到新空间上呢?

我们先来看一个例子:图中用了一个椭圆将点分开

 在原空间中:\chi \subset R^{2}\, \, \, x=\left ( x^{\left ( 1 \right )},x^{\left ( 2 \right )} \right )^{T}\in \chi

                        椭圆曲线:w_{1}\left ( x^{\left ( 1 \right )} \right )^{2}+w_{2}\left ( x^{\left ( 2\right )} \right )^{2}+b=0

定义从原空间到新空间的映射(函数):

                                                  

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值