9.2下降方法
下降方法将产生一个优化点列其中
,且
。
是一个向量表示步径或搜索方向。标量
被称为第k次迭代的步长。
方法的思想:只有
下降方法是优化中的一个策略,尤其适用于凸优化问题。它通过找到使目标函数值下降的方向和合适的步长来逐步逼近最优解。在下降方法中,搜索方向必须与负梯度成锐角,确保函数值下降。直线搜索包括精确直线搜索和回溯直线搜索,后者是一种更实际的非精确方法,当函数值有显著减少时即可接受新的步长。
下降方法将产生一个优化点列其中
,且
。
是一个向量表示步径或搜索方向。标量
被称为第k次迭代的步长。
方法的思想:只有

被折叠的 条评论
为什么被折叠?