22、约束优化技术：方法与应用

约束优化技术：方法与应用

1. 可行方向法

可行方向法的目标是生成一系列可行点，使目标函数值持续减小。与之前讨论的序列线性规划（SLP）方法不同，SLP 方法得到的线性规划解可能不可行。在第 k 次迭代时，算法假定已有一个可行点 x(k)，然后确定目标函数的下降方向 s(k)，接着进行线搜索以获得新点 x(k + 1) = x(k) + λk s(k)，该新点也是可行点且目标函数值更优。

1.1 下降方向的两种情况

在第 k 次迭代生成下降方向 s(k) 时，会出现两种情况：
- 内部点情况 ：若点 x(k) 是可行区域的内部点，即此时没有约束条件起作用，那么边界不会限制下降方向 s(k) 的选择，可将其选为当前点目标函数梯度的负方向，即 s(k) = -∇f(x(k))，随后进行线搜索以得到目标函数值更优的可行点。
- 边界点情况 ：若点 x(k) 是边界点，即至少有一个约束条件起作用，此时需要生成一个新的搜索方向，该方向既是目标函数的下降方向，又能使点远离边界，即沿着起作用约束条件减小的方向。数学上，所求的搜索方向应满足：
[
\begin{cases}
s^{(k)T}\nabla f(x^{(k)}) < 0 \
s^{(k)T}\nabla y_j(x^{(k)}) \geq 0, j \in I_{A_k}
\end{cases}
]
其中 (I_{A_k}) 是第 k 次迭代时起作用约束条件的索引集。第一个不等式要求搜索方向与目标函数梯度成钝角，意味着它是目标函数的下降方向；第二个约束条件要求