模拟退火算法及其Scala实现-优快云博客

本文链接：https://blog.youkuaiyun.com/k_wzzc/article/details/127954831

模拟退火

以下原理和步骤内容出自百度百科

1.算法原理

模拟退火算法来源于固体退火原理，将固体加温至充分高，再让其徐徐冷却，加温时，固体内部粒子随温升变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小。根据Metropolis准则，粒子在温度T时趋于平衡的概率为e(-ΔE/(kT))，其中E为温度T时的内能，ΔE为其改变量，k为Boltzmann常数。用固体退火模拟组合优化问题，将内能E模拟为目标函数值f，温度T演化成控制参数t，即得到解组合优化问题的模拟退火算法：由初始解i和控制参数初值t开始，对当前解重复“产生新解→计算目标函数差→接受或舍弃”的迭代，并逐步衰减t值，算法终止时的当前解即为所得近似最优解，这是基于蒙特卡罗迭代求解法的一种启发式随机搜索过程。退火过程由冷却进度表(Cooling Schedule)控制，包括控制参数的初值t及其衰减因子Δt、每个t值时的迭代次数L和停止条件S

2.算法步骤

模拟退火算法新解的产生和接受可分为如下四个步骤：

第一步是由一个产生函数从当前解产生一个位于解空间的新解；为便于后续的计算和接受，减少算法耗时，通常选择由当前新解经过简单地变换即可产生新解的方法，如对构成新解的全部或部分元素进行置换、互换等，注意到产生新解的变换方法决定了当前新解的邻域结构，因而对冷却进度表的选取有一定的影响。
第二步是计算与新解所对应的目标函数差。因为目标函数差仅由变换部分产生，所以目标函数差的计算最好按增量计算。事实表明，对大多数应用而言，这是计算目标函数差的最快方法。
第三步是判断新解是否被接受,判断的依据是一个接受准则，最常用的接受准则是Metropolis准则: 若ΔT<0则接受S′作为新的当前解S，否则以概率exp(-ΔT/T)接受S′作为新的当前解S。
第四步是当新解被确定接受时，用新解代替当前解，这只需将当前解中对应于产生新解时的变换部分予以实现，同时修正目标函数值即可。此时，当前解实现了一次迭代。可在此基础上开始下一轮试验。而当新解被判定为舍弃时，则在原当前解的基础上继续下一轮试验。

在这里插入图片描述

代码实现（Scala）


case class SimulatedAnnealing(
                               var currentT: Double = 2000, // （初始化）当前温度，尽可能大
                               minT: Double, // 温度下限
                               iterL: Int, // 每个温度的迭代次数
                               alpha: Double, // 温度衰减系数
                               var initx: Double
                             ) {

  def calculate()(fun: Double => Double) = {
    val xs = new ListBuffer[Double]()

    while (currentT >= minT) {
      for (i <- 1 to iterL) { // 迭代次数
        val xi = initx + (2 * math.random - 1) *10 // 生成新解
        val initfx = fun(initx)
        //        if (xi <= 10 & xi >= -10) {
        val delta = fun(xi) - initfx
        if (delta < 0) { // delta <0 接受新解
          initx = xi
        } else {
          //   delta >=0 ,以 e^(-delta / currentT) 的概率接收新解
          if (math.random <= math.exp(-delta / currentT)) initx = xi
          //          }
        }
      }
      xs.append(initx)
      currentT *= alpha
    }
    xs
  }

}

测试结果

 def main(args: Array[String]): Unit = {

    val currentT: Double = 2000 // （初始化）当前温度，尽可能大

    val minT: Double = 1.0 // 温度下限

    val iterL: Int = 100 // 每个温度的迭代次数

    val alpha: Double = 0.95 // 温度衰减系数

    // 优化函数
    def fun(x: Double): Double = (x - 2) * (x + 3) * (x + 8) * (x - 9)

    //  随机生成初始解 (假设解的约束条件为[-10,10])
    val initx = (2 * math.random - 1) * 10

    val annealing = SimulatedAnnealing(currentT, minT, iterL, alpha, initx)

    val xs: ListBuffer[Double] = annealing.calculate()(fun)

    val optimalSolution = xs.last
    println("最优解：" + optimalSolution)
    println("最优值：" + fun(optimalSolution))

    val x1: DenseVector[Double] = linspace(-10, 10, 100)
    val y1: DenseVector[Double] = x1.map(fun)

    val f = Figure()
    val p = f.subplot(0)
    p += plot(x1, y1, colorcode = "green")
    p += plot(DenseVector(optimalSolution), DenseVector(fun(optimalSolution)), '.', colorcode = "blue")

    p.title = "SA"


    // SA 迭代过程
    //    val f2 = Figure()
    val p2 = f.subplot(2,1,1)

    val x2 = linspace(1, xs.length, xs.length)

    println(x2)
    val y2 = DenseVector(xs.map(fun).toArray)

    p2 += plot(x2, y2)
    p2.title = "SA 迭代过程"

    f.saveas("SA")

  }

在这里插入图片描述

参考

https://baike.baidu.com/item/%E6%A8%A1%E6%8B%9F%E9%80%80%E7%81%AB%E7%AE%97%E6%B3%95/355508?fromtitle=%E6%A8%A1%E6%8B%9F%E9%80%80%E7%81%AB&fromid=8664695&fr=aladdin