统计学习方法-第七章支持向量机

博客以问答形式解答了SVM相关问题,包括将原问题转换为对偶问题的原因及优势,SVM防止过拟合的方法,LR和SVM的区别,结构风险、支持向量的定义,以及SVM引入核函数的原因等信息技术领域知识。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Q:  为什么要把原问题转换为对偶问题?

A:因为原问题是凸二次规划问题,转换为对偶问题更加高效。 
并且可以引入核函数

Q: 为什么求解对偶问题更加高效?

A:因为只用求解alpha系数,而alpha系数只有支持向量才非0,其他全部为0.

Q:alpha系数有多少个?

A:样本点的个数

Q: SVM怎么防止过拟合?

A:引入松弛变量

Q: LR和SVM有什么不同吗?

A:

(1)分类思想不同:LR是基于概率求得,SVM是基于最大化间隔

(2)SVM决策面只由少量的支持向量决定,而LR的话是所有样本都会参与决策面的更新

(3)逻辑回归通过sigmoid函数缩小了远离分类超平面那些点的信息,而SVM直接忽略了那些点的信息

Q:. 什么是结构风险?

A:结构风险=经验风险(模型误差)+置信风险(泛化能力)

Q:什么是支持向量?

A:最大化间隔在正样本和负样本集合上各形成一个边界,位于这两个边界上的样本就是支持向量。后续新样本的分类就只依赖于这些支持向量的信息,从而降低了存储和计算的复杂性。

Q:为什么SVM要引入核函数?

A:当样本在原始空间线性不可分时,可将样本从原始空间映射到一个更高维的特征空间,使得样本在这个特征空间内线性可分

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值