模拟退火+粒子群算法寻找最小值点

原理简述

1 模拟退火

和最简单的爬山法相比，模拟退火多了一个选择更差的解的概率，假设当前寻找到的解是$x_{org}$，迭代一轮找到的新解为$x_{new}$，适应度(简单问题中就是函数值)分别为$f(x_{org}),f(x_{new})$,如果新解的适应度比原来的适应度小，那么直接进行更新，进入下一轮迭代，否则以一定概率P
$$P=e^{-(f(x_{org})-f(x_{new}))/T}$$
接受新解，其中$T$是当前温度，$f(x_{org})-f(x_{new})$是能量差。
之所以使用$e^{-x}$函数是因为它在(0,+∞)上的函数值在0，1之间。 能量差值越大，选取该新解的可能性就越小。

下面给出模拟退火算法代码的基本流程：
1.设定模拟退火的参数，如初始温度$T_0$，温度衰减率$\alpha$，每个温度下的迭代次数$Lk$，整体最大迭代次数max_iters
2.外层循环max_iters次。
3.内层循环Lk次，每次按照一定规则进行新解的产生，更新等，这个按照任务需求来。
4.将温度衰减，回到2。
5.输出最值点的信息。

Py代码

import numpy as np
import pandas as pd
import sklearn
import matplotlib as mlp
import seaborn as sns
import matplotlib.pyplot as plt
import random

def f(x):
    return 11*np.sin(x)+7*np.cos(5*x)

#模拟退火的初始值
narvs = 1 #变量个数
T0 = 100  # 初始温度
T = T0 # 迭代中温度会发生改变，第一次迭代时温度就是T0
maxgen = 200  # 最大迭代次数
Lk = 100  # 每个温度下的迭代次数
alfa = 0.95  # 温度衰减系数
x_lb = np.array([-3]) # x的下界
x_ub = np.array([3]