模式识别与机器学习 | 第七章支持向量机

CSJK-

已于 2024-12-31 13:01:22 修改

阅读量792

点赞数 21

CC 4.0 BY-SA版权

分类专栏：模式识别与机器学习文章标签：机器学习支持向量机人工智能

于 2024-12-28 22:38:30 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/AI_STRAAY/article/details/144795280

线性支持向量机/核支持向量机

间隔

分类器的置信度：

概率 $p(y=1|x)=\frac{1}{1+e^{-w^Tx}},w^Tx$ 越大，y=1概率越大
点到分离超平面H的距离反映了置信度

函数间隔：样本 $(x^i,y^i)$ ，它到(w,b)确定的超平面的函数间隔

$\hat{r}^i=y^i(w^Tx^i+b)\\y^i(w^Tx^i+b)>0:1+/(-1)-$ 模型对样本的预测正确

大的函数间隔->确信正确的预测

训练数据集的函数间隔，所有样本里最小的那个

几何间隔：

点到决策界面（直线wx+b=0）的距离 $\hat{r}^i=y^i(\frac{w^T}{\left \| w^2 \right \|}x^i+\frac{b}{\left \| w^2 \right \|})$

最优间隔分类器：间隔最大化

$max \ r \\ s.t.\ y^i((\frac{w}{\left \| w\right \|_2})^Tx^i+\frac{b}{\left \| w \right \|_2})\geq r\\$

线性SVM(原始)

输入：数据集S

输出：判别函数 $f_{w,b}(x)=sign((w^*)^Tx+b)$

判别届面/分离超平面 $(w^*)^Tx+b^*=0$

参数w,b通过解决最优化间隔分类器问题

$min \ \frac{1}{2}\left \| w \right \|^2_2 \\ s.t.\ y^i(w^Tx^i+b)\geq r\\$

其中 支持向量 $y(w^Tx+b)=1$ 线性可分情况下，至少有两个不同类别的点在边界上

函数间隔 $\hat{\gamma }=1$

几何间隔

最低0.47元/天解锁文章

200万优质内容无限畅学

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。