机器学习基础 - [第四章:正则化](4)逻辑回归的正则化

本文探讨了正则化的逻辑回归,详细介绍了未正则化逻辑回归的代价函数及其正则化后的形式,并讲解了如何用梯度下降法解决正则化逻辑回归问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、正则化的逻辑回归

(1)未正则化的逻辑回归的代价函数:
J(θ)=−1m∑i=1m[y(i)log(hθ(x(i))+(1−y(i))log(1−hθ(x(i)))]J(\theta)=-\frac{1}{m}\sum_{i=1}^{m}[y^{(i)}log(h_{\theta}(x^{(i)})+(1-y^{(i)})log(1-h_{\theta}(x^{(i)}))]J(θ)=m1i=1m[y(i)log(hθ(x(i))+(1y(i))log(1hθ(x(i)))]
(2)正则化的逻辑回归的代价函数:
J(θ)=−1m∑i=1m[y(i)log(hθ(x(i))+(1−y(i))log(1−hθ(x(i)))]+12m∑j=1nθj2J(\theta)=-\frac{1}{m}\sum_{i=1}^{m}[y^{(i)}log(h_{\theta}(x^{(i)})+(1-y^{(i)})log(1-h_{\theta}(x^{(i)}))]+\frac{1}{2m}\sum_{j=1}^{n}\theta_{j}^{2}J(θ)=m1i=1m[y(i)log(hθ(x(i))+(1y(i))log(1hθ(x(i)))]+2m1j=1nθj2
在这里插入图片描述

2、使用梯度下降法求解正则化的逻辑回归

正则化的和未正则化的逻辑回归模型的参数的更新公式和线性回归模型一样:
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Albert_YuHan

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值