21、约束优化技术：原理、方法与应用

约束优化技术：原理、方法与应用

1. 约束优化问题概述

在优化问题中，一个约束条件可以由两个不等式约束来替代。因此，我们主要关注仅包含不等式约束的设计问题。不等式约束 (y_j(x) \leq 0)（(j = 1, 2, \cdots, m)）定义了参数空间的一个子集，在这个子集中所有约束条件都得到满足（约束值为负）。这个区域与目标函数的等值面相互作用，从而确定优化问题的可能解。

可能出现的优化场景有以下几种：
- 场景一：无约束最小值在可行域内
- 当目标函数的无约束最小值位于可行区域内部时，意味着这些约束在这种情况下是冗余的。可以使用无约束优化技术来达到这个最小值。对于设计问题，一个有效的初步方法是先忽略约束条件，使用更简单的无约束优化技术。如果得到的最小值不可行，再使用约束优化技术。
- 场景二：无约束最小值在可行域外
- 当目标函数的无约束最小值位于约束条件定义的可行区域之外时，应用无约束优化技术会得到一个不可行的解。约束问题的最小值位于某个约束条件上或多个约束条件的交点处，该最小点满足KKT条件。
- 场景三：目标函数有两个无约束最小值
- 当目标函数有两个无约束最小值时，其中一个最小值位于可行区域内，它是约束优化问题的一个可能解。目标函数的等值线与可行区域边界的相互作用会在边界处产生另一个局部最小值，因此约束优化问题有两个最小值。

大多数讨论的技术是局部约束优化技术，它们专注于找到约束优化问题的一个局部解。全局优化技术将在后续章节讨论。

2. 随机搜索方法

随机搜索