面试(SVM)

本文详细介绍了支持向量机(SVM)的推导过程,探讨了为什么转换为对偶问题,主要原因是便于求解和引入核函数。讨论了KKT条件,以及线性与非线性核函数的区别和应用。针对SVM对异常点的敏感性,提出SVM可能更适合异常点不多的情况。同时,分析了SVM在样本量较少时的优势和计算复杂度问题,并建议在大规模数据中寻找替代方案。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

SVM 推导

在这里插入图片描述

为什么转换为对偶问题

《统计学习方法》上给出的答案是:

  • 对偶问题往往更容易求解;
  • 自然引入核函数。

  • 网友的理解:(https://www.cnblogs.com/crackpotisback/p/8674534.html)
  • 对偶问题将原始问题中的约束转为了对偶问题中的等式约束
    方便核函数的引入;
    改变了问题的复杂度。由求特征向量w转化为求比例系数a,在原始问题下,求解的复杂度与样本的维度有关,即w的维度;
    在对偶问题下,只与样本数量有关。
    在这里插入图片描述
KKT条件

核函数:线性核函数,非线性核函数,区别,各自的用途
  • 核函数:当样本数据需要映射到高维时,需要显示表达映射函数核特征空间(由于特征空间维度大计算量大甚至无法计算),核函数的作用就是在低维度运算,但其分类效果表现在了高维上,避免过大的复杂度计算。
  • 关于核函数的选择,一般是通过实验验证
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值