8、基于轨迹的优化算法：模拟退火详解

基于轨迹的优化算法：模拟退火详解

1. 基于轨迹的优化算法概述

优化算法可分为基于轨迹和基于种群的算法。基于轨迹的优化算法，如模拟退火（SA）和禁忌搜索，使用单个搜索代理在搜索空间中分段移动；而基于种群的算法，像遗传算法、粒子群优化和蚁群优化，则使用多个代理来寻找最优或接近最优的全局解决方案。

基于种群的算法由于初始种群的多样性，更侧重于探索；而基于轨迹的算法则更注重利用。下面是常见的元启发式算法分类：
|算法类型|具体算法|
| ---- | ---- |
|基于轨迹的元启发式算法（S - 元启发式算法）|模拟退火（SA）、禁忌搜索（TS）、贪婪随机自适应搜索过程（GRASP）、迭代局部搜索（ILS）、引导局部搜索（GLS）、可变邻域搜索（VNS）|
|基于种群的元启发式算法（P - 元启发式算法）|遗传算法（GA）、遗传编程（GP）、进化编程（EP）、进化策略（ES）、差分进化（DE）、文化算法（CA）、协同进化（CoE）、粒子群优化（PSO）、蚁群优化（ACO）、人工蜂群（ABC）、蝙蝠算法（BA）、萤火虫算法（FA）、鱼群搜索（FSS）、海豚群优化算法（DSOA）、猫群优化（CSO）、狼搜索算法（WSA）|

2. 模拟退火算法基础

模拟退火算法的灵感来源于物理退火过程。在物理退火中，材料被加热到再结晶温度以上，保持适当温度，然后缓慢冷却，使分子排列成晶体结构，达到最低能量状态。如果冷却过快，材料可能形成非晶体结构。

在数学优化中，模拟退火是一种计算模型，通过模仿物理退火过程来寻找目标函数的最优值。两者的类比关系如下：
|物理退火|模拟退火|
| ---- | ---- |