机器学习总结(三):SVM支持向量机(面试必考)

本文详细介绍了SVM支持向量机的基本思想、算法推导,包括最大间隔、对偶问题、软间隔最大化、核函数的应用,以及多分类策略和SMO算法的实现。SVM通过非线性变换找到最大间隔分类面,同时兼顾分类能力和泛化能力。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

基本思想:试图寻找一个超平面来对样本分割,把样本中的正例和反例用超平面分开,并尽可能的使正例和反例之间的间隔最大。

算法推导过程:

(1)代价函数:假设正类样本y =wTx+ b>=+1,负类样本y =wTx+ b<=-1,两条边界之间的距离为2/||w||,最大化这个距离,应该最小化||w||,约束条件的目的是为了保证正类样本位于H1右边,负类样本位于H2左边,所以原始的代价函数就为:

函数间隔(functional margin):

几何间隔(geometric margin):

 

(2)对偶问题:引入拉格朗日乘子,可以得到以下拉格朗日函数:

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值