线性回归算法

梯度下降算法与正则化介绍

最新推荐文章于 2025-06-27 20:52:12 发布

huxueyan_2010

最新推荐文章于 2025-06-27 20:52:12 发布

阅读量498

点赞数

分类专栏：机器学习算法文章标签：机器学习

机器学习算法专栏收录该内容

4 篇文章

订阅专栏

原文地址：http://blog.kamidox.com/gradient-descent.html

梯度下降算法流程图：

正则化：

定义：

解决模型过拟合问题的一种方法。保留所有特征，减少特征的权重 $\theta_j$ 的值，确保

所有的特征对预测值都有少量的贡献。

公式：

成本函数：

$J(\theta)=\frac{1}{2m}[\sum\limits_{i=1}^m(h_\theta(x^{(i)})-y^{(i)})^2+\lambda\sum\limits_{j=1}^n\theta_j^2]$

迭代函数：

$\theta_j=\theta_j-\alpha\frac{1}{m}\sum\limits_{i=1}^m[(h(x^{(i)})-y^{(i)})x_j^{(i)}+\frac{\lambda}{m}\theta_j]\newline$$ $$\indent\quad=\theta_j(1-\alpha\frac{\lambda}{m})-\alpha\frac{1}{m}\sum\limits_{i=1}^m(h(x^{(i)})-y^{(i)})x_j^{(i)}$

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。