吴恩达机器学习课程10——支持向量机(1)

本文介绍了支持向量机(SVM)与logistic回归的关系,特别是它们的优化目标。SVM通过改变代价函数,形成大间距分类器,确保分类边界与样本点间有最大间隔。当C值很大时,SVM追求完美分类,而适中的C值则考虑正则化。此外,文章还探讨了SVM的大间距分类的数学原理,利用向量内积和投影解释了为何选择最大化间隔的分类线。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


优化目标

  • SVM(支持向量机)和logistic回归是有一定的联系的。首先,我们回顾一下logistic的相关内容:
    在这里插入图片描述
    这张图片展示的是logistic回归的相关思想,在sigmoid函数中,θ的转置·x(用字母z表示) 是自变量,输入到sigmoid函数中,根据函数图像,我们可以得到随着z的无限增大,sigmoid函数无限接近1,随着z的无限减小,sigmoid函数无限接近于0。这都是我们之前已经得到的相关结论。
  • 然后我们再回顾一下logistic回归的代价函数,即优化目标
    在这里插入图片描述
    上述公式展示的是对于一个样本而言的代价公式cost,将其求和,即可得到总体样本的总代价,我们以一个样本举例。当y=1的时候,cost实际等于左图红色方框里的公式,然后左图横坐标以z为值,绘制出了cost以z为自变量变化而变化的曲线,左图中黑色的线就是logistic回归实际cost的变化曲线;同理,右图是y=0的情况。这个也是已经学过的有关logistic的内容。
    不同的是,我们
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CtrlZ1

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值