《Multiobjective Evolutionary Algorithms:A Comparative Case Study and the Strength Pareto Approach》

《Multiobjective Evolutionary Algorithms:A Comparative Case Study and the Strength Pareto Approach》阅读笔记

摘要  本文以扩展的0-1背包问题为基础，对四种多目标进化算法进行了定量比较。此外，我们还引入了一种新的多目标进化优化方法–SPEA，它以一种独特的方式结合了以往多目标EA的几个特点。它的特征是a)将非支配解外部存储在第二个不断更新的种群中，b)根据支配它的外部非支配点的数量来评估个体的适应度，c)使用Pareto支配关系保持种群多样性，以及d)结合聚类过程以便在不破坏其特征的情况下减少非支配集。

1 INTRODUCTION

  首先提出现实世界中的优化问题经常时多目标的，并且目标之间是相互竞争的关系，因此找到的解也通常是一组解而不是单一最优解。
由于相较于盲目的随机搜索，EA(evolutionary algorithm)更适合解决这样的多目标问题，因此为解决多目标优化问题，提出了不少multiobjective EA,不同的问题适用不同的算法（不同算法的算法对比见【5】）
  本文的结构如下：第二节介绍了进化多目标优化领域中使用的关键概念，并对本研究中考虑的多目标进化算法进行了概述；第三节介绍了关于0/1背包问题的四个多目标进化算法的比较，其中又分为三个部分：测试问题的描述、比较的方法和实验结果；第四节介绍了SPEA的基本原理及其在三个问题(Schaffer问题、背包问题和系统级综合)上的应用；最后一节对全文做出总结并进行了未来展望。

2 MULTIOBJECTIVE OPTIMIZATION USING EVOLUTIONARY ALGORITHM

2.1 基础定义

多目标优化问题可以写为：
$$\begin{array}{rl}\max \text{/}\min \mathbf{y}& =f\left(\mathbf{x}\right)=\left(f_1\left(\mathbf{x}\right),f_2\left(\mathbf{x}\right),...,f_n\left(\mathbf{x}\right)\right)\\ subjectto\mathbf{x}& =\left(x_1,x_2,...,x_m\right)\in X\\ \mathbf{y}& =\left(y_1,y_2,...,y_m\right)\in Y\end{array}$$
其中，$x$表示决策向量，$y$表示目标向量，$X$是参数空间，$Y$是目标空间。
支配(cover)的定义：
在最大化问题中的两个决策向量：$a,b\in X$,$a$支配$b$（即$a\succ b$）当：
∀i∈{ 1,2,...,n}:fi(a)≥fi(b) ∧ ∃j∈{ 1,2,...,n}:fj(a)>fj(b) \begin{aligned} \forall i\in \left\{ 1,2,...,n \right\} &:f_i\left( \boldsymbol{a} \right) \ge f_i\left( \boldsymbol{b} \right) \ \land \ \\ \exists \boldsymbol{j}\in \left\{ 1,2,...,n \right\} &:f_j\left( \boldsymbol{a} \right) >f_j\left( \boldsymbol{b} \right) \end{aligned} ∀i∈{ 1,2,...,n}∃j∈{ 1,2,...,n}​:fi​(a)≥fi​(b) ∧ :fj​(a)>fj​(b)​
帕累托最优解：搜索空间中不被支配的决策向量。
帕累托最优解集（帕累托前沿面）：由整个搜索空间中所有帕累托最优解组成。

2.2 适应度分配策略

主要分为以下三类：
a.plain aggregating method: 不适用于多目标优化问题；需要较多的领域知识；常用的方法由：加权求和、目标向量优化、目标达成方法等。
b. population-based non-Pareto approaches: 可以在一次运行中进化出多个非支配解，通过在繁殖阶段改变选择标准，同时在多个方向上引导搜索。部分算法中交配池的选择是根据$n$个目标中的一个，其余算法都是使用多个目标的线性组合。
c. Pareto-based assignment：用帕累托支配的顺序确定繁殖的概率（但对非凸问题不敏感）。
  其余方法基本由以上方法的组合形成。

2.3 多模式优化以及多样性保护

  多模式搜索的目的是使帕累托解的分布尽可能均匀，单一的EA经常会由于1）选择压力；2）选择噪声；3）操作中断 遗漏最优解。因此提出了两种保护种群多样性的方法：niching techniques 和nonniching techniques.
  niching techniques中最常用的是fitness sharing。在个体必须将可用资源分享给${\sigma }_{share}$半径内的（邻域内）其他个体。
  （根据距离函数作用在基因型还是表型，可以分为基因共享和表型共享；表型共享可以在决策向量或者目标向量上进行）
  nonniching techniques中最常用的是restricted mating。在一定距离${\sigma }_{mate}$内的个体才允许交配，该方法应用并不广泛。

2.4 四种基于种群的方法

以下是我们将要在应用在背包问题中进行比较的四种多目标进化算法：

2.4.1 VEDA（Vector Evaluated Genetic Algorithm）

  将交配池分为$n$个大小相同的部分，其中第$i$个部分是由根据第$i$个目标随机选择的个体组成，然后对交配池进行洗牌、交叉和变异。

2.4.2 HLGA（Vector Evaluated Genetic Algorithm）

  本质是一种对目标函数的加权求和，只不过权重不固定，而是在基因中进行编码，并且通过表型适应度共享提高了权重组合的多样性，同时限制交配既可以加快收敛又可以提高遗传搜索的稳定性。

2.4.3 NPGA(Niched Pareto Genetic Algorithm)

  该方法结合了锦标赛选择和帕累托排序：从种群中随机选择两个个体和一个比较集（比较集大小为$t_{dom}$），如果一个个体可以被比较集中的任意个体支配，另一个不是，则后者获胜；若两者都被支配（或都不被支配），则选择小生境内（${\sigma }_{share}$）个体最少的一个进行繁殖。

2.4.4 NSGA(Nondominated Sorting Genetic Algorithm)

略

3 PERFORMANCE COMPARISON

  以下是对四个算法在解决多目标0/1背包问题的实例研究，重点考虑的是算法寻找多个帕累托解的有效性。

3.1 多目标0/1背包问题

3.1.1 问题的数学描述

  通常，0/1背包问题由一组物品、与每件物品相关的重量和利润以及背包容量的上限组成。该问题的任务是找到一个项目的子集，使子集中的总利润最大化，而所有选定的项目都可以放入背包中，即总重量不超过给定的容量。
  设给定