python手撸线性回归(二)theta0不需要正则化

本文探讨了机器学习中线性回归正则化项是否包含θ0的问题,并通过实验证明,无论是否对θ0进行惩罚,最终模型参数的变化都非常小。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在上一篇关于线性回归的文章中,python手撸线性回归及参数解释,我们可以看到正则化项中并没有theta0二是从theta1开始的,In[7]的第三行



Andrew在其机器学习课程中对此的解释是,按照惯例来讲,不去对θ0进行惩罚, 因此 θ0 的值是大的 这就是一个约定, 但其实在实践中这只会有非常小的差异 ,无论你是否包括θ0这项,结果只有非常小的差异,下边我们通过实验来证明,正则化项是否包含θ0对最后结果的影响很小。

下边分别是对theta0不进行正则化和进行正则化的结果,最终theta取值为

('theta: ', array([-3.82872504,  1.186267 ]))

('theta: ', array([-3.89374994,  1.19278475]))

可见差异非常小


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值