最优化理论之一维搜索（of nonlinear programming）

1.一维搜索概念
1.1什么是一维搜索
2.试探法
2.1黄金分割法（0.618法）
2.2斐波那契法（Fibonacci法）
2.3斐波那契法与黄金分割法的关系

一维搜索概念

什么是一维搜索

对于不少多变量函数的非线性规划问题，往往归结为反复地求解一系列单变量函数的最优解（极小值）。因此，单变量函数的寻优方法成为解非线性规划的最基本方法。单变量函数的寻优（极小化）方法也叫一维搜索，它只有一个变量，并且这个变量是沿着直线或射线移动。

points:
1.一维搜索是针对极小值问题。
2.一维搜索必须是单变量。
3.变量沿着某个方向直线移动。
4. 一维搜索只是做最优化算法过程中的一个步骤。（如果你需要找到整个时间极小值的话——用的算法术语是下降(梯度下降、迭代下降等等…)）

分类：

• 试探法：需要按照某种方式找试探点，通过一系列试探点来确定极小点。
• 函数逼近法：用某种较简单的曲线逼近本来的函数曲线，通过求逼近函数的极小点来估计目标函数的极小点。
  points: 这两类方法只能求得极小点的近似值。

试探法

黄金分割法（0.618法）

1. 试用范围
   黄金分割法适用于[a,b]区间上的任何单峰（或单谷）函数φ(x)求极小值点的问题，对函数除“单峰”外不做其他要求，甚至可以不连续。

2. 基本思想
   在搜索区间[a,b]内适当插入两点x₁和x₂（试探点）,它们把[a,b]分成三段，通过比较这两点的函数值的大小，