GDA 和logistic回归的联系

本文探讨了GDA算法与Logistic回归之间的联系,指出在特定假设下,两者的决策边界相同。当假设p(x|y)服从正态分布时,p(y=1|x)遵循Logistic函数,形成直线型决策边界。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

上篇博文中的GDA算法中,如果我们把p(y=1|x)整理变形一下,就能得到

这是logistic回归的h函数。

实质上,当我们假设p(x|y)服从正态分布时,p(y=1|x)必然是logistic函数,但反过来不成立,也就是说,前者是更强的假设,当我们对问题做更强的假设时,往往就能更精确地找到问题地解,当然前提是假设正确。或基本正确。

更一般地,只要我们对p(x|y)的建模属于GLM指数分布族时,p(y=1|x)都是logistic函数,那么最后得到的都是直线型的决策边界。当实际问题的边界线不是直线时,就不适用了,此后的博文会总结其他的算法解决这个问题。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值