17、多目标优化中的单目标算法提升与MOGEN算法解析

多目标优化中的单目标算法提升与MOGEN算法解析

在优化领域中，多目标优化是一个极具挑战性的问题。传统的多目标优化算法往往需要大量的函数评估，这在实际应用中可能会带来高昂的成本。本文将介绍一种基于单目标无导数优化（DFO）算法的多目标优化方法——MOGEN算法，它旨在以较少的函数评估次数找到高质量的帕累托前沿近似。

1. 帕累托最优与无导数优化基础

• 帕累托最优 ：一个点 $x$ 被称为帕累托最优，如果不存在 $y \in \Omega$ 使得 $y \prec x$。帕累托最优集就是所有帕累托最优的点的集合，即非支配点的集合。多目标优化算法的目标就是找到这个帕累托最优集的近似。
• 无导数优化方法（DFO） ：DFO 方法是一种优化搜索技术，它通过迭代比较点之间的目标函数值来评估搜索进度。这种基于比较的迭代设计直观易懂，许多 DFO 算法依赖于简单的概念和结构。其主要优点是只需要比较目标函数的评估值，不需要导数信息，因此可以用于优化黑盒函数。

2. 常见的单目标 DFO 算法

• 方向直接搜索算法 ：该算法通过在当前迭代点（$\Omega$ 中的一个点）周围迭代地探查新点来收敛到局部最优。它依赖于一组单位向量 $D$ 和步长 $\alpha$。在每次迭代中，对于每个方向 $d_i \in D$，生成新点 $x_i = x_{current} + \alpha \times d_i$。如果新点 $x_i$ 比当前迭代点 $x_{current}$ 更好（即 $f(x_i) \leq f(x