机器学习-梯度下降

最新推荐文章于 2025-05-31 16:10:35 发布

xd.L

最新推荐文章于 2025-05-31 16:10:35 发布

阅读量181

点赞数 9

文章标签： python 机器学习人工智能

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/2301_81310362/article/details/145535193

版权

当我们得到一个目标函数后，如何求解，直接求解？（并不一定，线性回归可以当做一个特列）

常规过程：我先给机器一堆数据，然后告诉它什么样的学习方式是对的（目标函数 loss），然后让他那个方向这么做。

若把下图看作一座山

那我们想要找到山的最低点，我们先告诉机器随机来一组 $\Theta$ 参数 $x_{1}:\Theta_{1}=2.1 x_{2}:\Theta_{2}=1.3$ ，当前我们优化要让它下降，所以我们要让它向山的最低点走，看山上的红圈该怎么下山，我们在图中给出三种下山路线，我们不光要下山，我们要选一条最快方式下山的路线，显然沿着切线方向是最快的，要下山我们现在要求它的一个梯度（切点或切点方向），正常求出的梯度是一个上升的方向，此时，我们要的是下山，沿着一个梯度的反方向走，所以我们管这个优化算法叫做梯度下降

最低0.47元/天解锁文章

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。