关于snake方程(1)

本文深入解析梯度下降法,从概念出发,通过球面滚动示例讲解原理,演示如何在高数优化问题中寻找最小值,包括迭代过程和步长调整,适合理解优化算法的读者。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

参考来源:(6 封私信 / 20 条消息) 什么是梯度下降法? - 知乎 (zhihu.com) ------------马同学

snake方程最后的求解涉及到了梯度下降法

梯度下降法 梯度下降法是用来计算函数最优值的

                            

高数中计算最优值比如: 

要求它的最小值点就需要解如下方程组:

现在我们不用这种方法去求解最优值

原理:

  梯度向量

假设起点在,也就是将球放在

                

 它的梯度为 1 维向量:

 这是在   轴上的向量,它指向函数值增长最快的方向,而就指向减少最快的方向:

                                    

 将也看作 1 维向量,通过和相加,可以将之向移动一段距离得到新的向量

                                

 其中称为步长,通过它可以控制移的动距离,通过它可以控制移的动距离,设,那么

                   

 此时小球(也就是起点)下降到了

                         

 迭代

 的梯度为:

 

 继续沿着梯度的反方向走:

 

小球就滚到了更低的位置:

                                 

重复上述过程到第 10 次,小球基本上就到了最低点,即有

                                    

                                                        

                                                   

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值