文章目录 一、最优化问题 1.无约束优化 1.1 必要条件 1.2步长的搜索方法 2.约束优化 2.1最速下降法 2.2牛顿法 2.3共轭梯度法 2.4拟牛顿法 一、最优化问题 1.无约束优化 1.1 必要条件 一阶必要条件:梯度为0 二阶必要条件:二阶hessian矩阵半正定 1.2步长的搜索方法 设当前位置 x k x^k xk,搜索方向为 d k d^k dk,搜索步长