关于梯度下降 - 线性回归的

本文深入探讨了线性方程的代价函数,并介绍了如何通过梯度下降算法来最小化该函数,实现对theta参数的最优调整。文章详细解释了算法公式,包括学习率alpha的作用,以及如何在Octave中实现这一过程。

有了线性方程以及他的代价函数:

 

 

然后我们的目标就是通过调整 theta0, theta1 最小化 J 的值。

那么梯度下降算法的公式如下:

     alpha 是学习率,后面是对J和theta求偏导,以便得到这个点斜率,如果斜率为正就逐渐缩小theta,这样就逐步的调整到适合的theta

在Octave中表示为:

theta = theta - (alpha/m) * X' * (X*theta - y)  循环调用这个计算多次已达到收敛。

最后就能得出这样一组 theta

转载于:https://www.cnblogs.com/sunnystone85/p/10035930.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值