【有约束优化】罚函数法

第一部分：惩罚函数法的基础理论

1. 基本思想与问题设定

考虑约束优化问题：
$$\begin{array}{ll}\text{最小化}& f(\mathbf{x})\\ \text{受限于}& g_i(\mathbf{x})\le 0,i=1,\dots ,m\\ & h_j(\mathbf{x})=0,j=1,\dots ,l\end{array}$$

惩罚函数法的思路是：构造一个惩罚函数 $P(\mathbf{x})$，当 $\mathbf{x}$ 违反约束时，$P(\mathbf{x})$ 的值会急剧增大。然后，将惩罚项加入到目标函数 $f(\mathbf{x})$ 中，形成一个新的、无约束的惩罚目标函数 $F_k(\mathbf{x})$：

$$F_k(\mathbf{x})=f(\mathbf{x})+c_{k}P(\mathbf{x})$$

其中：

• $c_k>0$ 是惩罚因子（Penalty Parameter），它控制了对违反约束的惩罚力度。
• $P(\mathbf{x})$ 是惩罚项，具有以下性质：
  • 在可行域内，$P(\mathbf{x})=0$。
  • 在可行域外，$P(\mathbf{x})>0$。

2. 惩罚项的具体形式

常用的惩罚项是外部惩罚函数 (Exterior Penalty Function)，它只在可行域外产生惩罚：

$$P(\mathbf{x})=\sum _{i=1}^m\max (0,g_i(\mathbf{x}){)}^p+\sum _{j=1}^l|h_j(\mathbf{x}){|}^q$$

其中 $p$ 和 $q$ 通常取 1 或 2。

A. 抛物线惩罚项 (Quadratic Penalty, $p=q=2$)

这是最常用、理论最成熟的形式，因为它保持了可微性：
$$P(\mathbf{x})=\sum _{i=1}^m[\max (0,g_i(\mathbf{x})){]}^2+\sum _{j=1}^l[h_j(\mathbf{x}){]}^2$$
对应的惩罚目标函数为：
$$F_k(\mathbf{x})=f(\mathbf{x})+c_k\left(\sum _{i=1}^m[\max (0,g_i(\mathbf{x})){]}^2+\sum _{j=1}^l[h_j(\mathbf{x}){]}^2\right)$$

3. 求解过程（序列无约束最小化）

惩罚函数法是一个序列无约束最小化技术 (SUMT - Sequential Unconstrained Minimization Technique)：

1. 选择一个初始惩罚因子 $c_1>0$ 和初始点 ${\mathbf{x}}^0$。
2. 迭代过程 ($k=1,2,\dots$):
   a. 求解无约束问题：
   $${\mathbf{x}}^k=\arg \underset{\mathbf{x}}{\min }{F}_k(\mathbf{x})$$
   b. 检查收敛准则。如果满足（例如，${\mathbf{x}}^k$ 足够接近 ${\mathbf{x}}^{k-1}$ 且约束违反程度足够小），则停止。
   c. 更新惩罚因子： 增大 $c_k$，通常采用 $c_{k+1}=\beta c_k$，其中 $\beta >1$ (例如 $\beta =10$)。

4. 核心理论：收敛性

定理（收敛性）

假设 $f(\mathbf{x}),g_i(\mathbf{x}),h_j(\mathbf{x})$ 都是连续函数，{xk}\{\mathbf{x}^k\}{xk} 是通过序列最小化 $F_k(\mathbf{x})$ 得到的序列。如果 $c_k\to \infty$ 当 $k\to \infty$ 时，那么序列 {xk}\{\mathbf{x}^k\}{xk} 的任何聚点 ${\mathbf{x}}^{\ast }$ 都是原始约束优化问题的一个局部最优解。

关键洞察：
为了确保 ${\mathbf{x}}^{\ast }$ 是一个可行解，惩罚项 $c_{k}P(\mathbf{x})$ 必须在 $k\to \infty$ 时惩罚任何微小的约束违反。因此，惩罚因子 $c_k$ 必须趋向于无穷大。

---

第二部分：高级理论与挑战

1. 梯度与拉格朗日乘数的估计

当采用二次惩罚项且 $c_k$ 很大时，无约束问题 $\min F_k(\mathbf{x})$ 的最优性条件是 $\nabla F_k({\mathbf{x}}^k)=0$：

$$\nabla f({\mathbf{x}}^k)+c_k\left(\sum _{i=1}^{m}2\max (0,g_i({\mathbf{x}}^k))\nabla g_i({\mathbf{x}}^k)+\sum _{j=1}^{l}2h_j({\mathbf{x}}^k)\nabla h_j({\mathbf{x}}^k)\right)=0$$

将此与 KKT 驻点条件 $\nabla f({\mathbf{x}}^{\ast })+{\sum }_{i=1}^m{\lambda }_i^{\ast }\nabla g_i({\mathbf{x}}^{\ast })+{\sum }_{j=1}^l{\mu }_j^{\ast }\nabla h_j({\mathbf{x}}^{\ast })=0$ 进行对比，我们发现可以估计拉格朗日乘数：

• 不等式约束乘数 ${\lambda }_i^{\ast }$ 的估计：
  $${\lambda }_i^k\approx 2c_k\max (0,g_i({\mathbf{x}}^k))$$
  这与 KKT 互补松弛性一致：如果 $g_i({\mathbf{x}}^k)$ 接近 0，则 ${\lambda }_i^k$ 接近 0；如果 $g_i({\mathbf{x}}^k)>0$ (违反约束)，则 ${\lambda }_i^k>0$。

• 等式约束乘数 ${\mu }_j^{\ast }$ 的估计：
  $${\mu }_j^k\approx 2c_k{h}_j({\mathbf{x}}^k)$$

2. 经典惩罚函数的局限性（病态性）

当 $c_k\to \infty$ 时，虽然保证了收敛，但会导致严重的数值问题（病态性）：

• Hessian 矩阵的条件数爆炸： $F_k(\mathbf{x})$ 的 Hessian 矩阵 ${\nabla }^2{F}_k(\mathbf{x})$ 的条件数随着 $c_k$ 的增大而增大，且趋向于无穷大。
• 搜索困难： 这使得无约束最小化问题 $\min F_k(\mathbf{x})$ 变得病态 (Ill-conditioned)。传统的优化算法（如牛顿法、拟牛顿法）难以准确找到 ${\mathbf{x}}^k$，搜索步长会变得极小，收敛速度极慢。
• 解的敏感性： ${\mathbf{x}}^k$ 对输入数据的微小扰动变得极其敏感。

---

第三部分：精确惩罚函数（Exact Penalty Functions）

为了克服序列惩罚函数法的病态性，引入了精确惩罚函数的概念。

1. 目标

精确惩罚函数 $F(\mathbf{x},c)$ 旨在：

• 仅用单个有限的惩罚因子 $c$。
• 使无约束问题 $\min F(\mathbf{x},c)$ 的解 ${\mathbf{x}}^{\ast }$ 精确地等于原始约束问题的解。

2. $L_1$ 精确惩罚函数（Exact $L_1$ Penalty Function）

最常用的精确惩罚函数是基于 $L_1$ 范数的：
$$F_c(\mathbf{x})=f(\mathbf{x})+c\left(\sum _{i=1}^m\max (0,g_i(\mathbf{x}))+\sum _{j=1}^l|h_j(\mathbf{x})|\right)$$
其中 $c$ 是一个有限的、足够大的惩罚因子。

定理（$L_1$ 精确性）

如果 ${\mathbf{x}}^{\ast }$ 是原始问题的一个局部最优解，并且满足LICQ（线性独立约束规范），那么存在一个临界值 $c_0>0$，对于所有 $c>c_0$，${\mathbf{x}}^{\ast }$ 也是无约束问题 $\min F_c(\mathbf{x})$ 的一个局部最优解。

如何确定 $c_0$?
理论上，临界惩罚因子 $c_0$ 必须大于所有激活约束的拉格朗日乘数的绝对值。即：
$$c_0\ge \max \left\{\underset{i}{\max }({\lambda }_i^{\ast }),\underset{j}{\max }(|{\mu }_j^{\ast }|)\right\}$$

3. $L_1$ 精确惩罚函数的挑战（不可微性）

尽管 $L_1$ 惩罚函数解决了病态性，但它引入了新的问题：

• 不可微性： $F_c(\mathbf{x})$ 在约束边界上不可微，因为 $\max (0,g_i(\mathbf{x}))$ 和 $|h_j(\mathbf{x})|$ 在 $g_i(\mathbf{x})=0$ 或 $h_j(\mathbf{x})=0$ 处不光滑。

由于不可微性，我们不能直接使用标准的基于梯度的优化算法（如牛顿法、共轭梯度法）。这导致了非光滑优化（Nonsmooth Optimization, NSO）的研究，通常需要使用如次梯度法 (Subgradient Method) 或束方法 (Bundle Method) 来求解 $\min F_c(\mathbf{x})$。

---

第四部分：增广拉格朗日法 (Augmented Lagrangian Method, ALM)

增广拉格朗日法（或乘子法, Method of Multipliers）是解决惩罚函数病态性的最成功的混合方法，它结合了拉格朗日对偶和惩罚函数的优点。

1. 增广拉格朗日函数

对于等式约束 $h_j(\mathbf{x})=0$，增广拉格朗日函数 ${\mathcal{L}}_c(\mathbf{x},\mu )$ 定义为：
$${\mathcal{L}}_c(\mathbf{x},\mu )=f(\mathbf{x})+\sum _{j=1}^l{\mu }_j{h}_j(\mathbf{x})+c\sum _{j=1}^l[h_j(\mathbf{x}){]}^2$$

核心思想：

1. 前半部分 $f(\mathbf{x})+\sum {\mu }_j{h}_j(\mathbf{x})$ 是标准的拉格朗日函数。
2. 后半部分 $c\sum [h_j(\mathbf{x}){]}^2$ 是一个二次惩罚项。

2. 求解过程（双重序列）

ALM 是一个双重序列方法，它同时更新 $\mathbf{x}$ 和乘数 $\mu$：

1. 内层循环 (Outer Loop) - 迭代 $k$:
   a. 最小化： 在固定的 ${\mu }^k$ 和 $c$ 下，求解无约束问题：
   $${\mathbf{x}}^{k+1}=\arg \underset{\mathbf{x}}{\min }{\mathcal{L}}_c(\mathbf{x},{\mu }^k)$$
   b. 更新乘子 (Multiplier Update)： 利用梯度信息更新拉格朗日乘数（类似 $\nabla F_k=0$ 的估计）：
   $${\mu }_j^{k+1}={\mu }_j^k+2c{h}_j({\mathbf{x}}^{k+1})$$

3. ALM 的优势

• 无需 $c\to \infty$： ALM 可以使用一个固定的、有限的惩罚因子 $c$ 来保证收敛。
• 避免病态性： 由于 $c$ 不需要趋于无穷大，${\mathcal{L}}_c$ 的 Hessian 矩阵不会变得严重病态，从而提高了数值稳定性。
• 收敛更快： 乘子 $\mu$ 的显式更新加速了收敛。

增广拉格朗日法是目前解决中大规模光滑约束优化问题最强大、最成熟的方法之一，也是许多现代求解器（如 LANCELOT、LOQO 的前身）的基础。