【优化参数】遗传算法优化BP神经网络求解电路参数优化问题【含Matlab源码 2615期】

💥💥💥💥💥💥💥💥💞💞💞💞💞💞💞💞💞Matlab武动乾坤博客之家💞💞💞💞💞💞💞💞💞💥💥💥💥💥💥💥💥
🚀🚀🚀🚀🚀🚀🚀🚀🚀🚀🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚤🚀🚀🚀🚀🚀🚀🚀🚀🚀🚀

🔊博主简介：985研究生，Matlab领域科研开发者；

🚅座右铭：行百里者，半于九十。

🏆代码获取方式：
优快云 Matlab武动乾坤—代码获取方式

更多Matlab优化求解仿真内容点击👇
①Matlab优化求解（进阶版）

⛳️关注优快云 Matlab武动乾坤，更多资源等你来！！

⛄一、遗传算法简介

1 遗传算法的思想来源
遗传算法是建立在自然选择学说基础之上的智能算法。生物种群在自然选择中优胜劣汰，代代繁衍。每一次种群更替，总是淘汰劣质基因、保留优质基因，从而朝着种群的最优发展方向进化。

生物遗传是生物种群不断靠近全局最优解的过程，那么我们能不能用这个思路来解决最优化问题呢？

当然可以：仿照自然遗传过程，①人为设定一个数据组作为“种群基因”，②以目标函数作为评判“发展方向优劣”的标准；③让这群数据通过计算机模拟的“交配”、“基因突变”、“种群复制”等自然选择过程，不断迭代更新、优胜劣汰；④基因趋于稳定时，我们称其为“成熟”，就得出问题的全局最优解。

2 遗传算法的原理分析
①建立种群的基因库------二进制编码
②实现遗传过程的交配、突变、选择遗传等过程
1）依适应度的概率选择规则
生物繁衍过程，种群的生老病死，基因是否突变，基因是否顺利遗传，哪两个基因发生交配等问题都是不确定的概率问题。因此，我们不能用绝对的标准控制某个基因的遗传情况。

因此，我们只能通过抽奖的方式，将某个个体被抽到的概率与其生存能力（适应度）挂钩。生存能力越强，适应度越大，自然也就有更大机会被选中，进行遗传行为了。

生物繁衍过程的适应度是指：生物生存技能、生物体质是否壮硕等指标。类似的，求解函数的最大值问题时，我们自然将自变量的函数值作为适应度了。函数值越大、它适应度越大，越容易被抽中。

同理，当求解最小值优化问题时，应构造适应度函数，使得函数值越小，适应度越大。

2）新种群复制
种群复制: 该步骤主要为选择一定数量的染色体复制到下一代，是实现“优胜劣汰”的关键步骤。每个个体是否能被遗传到下一代，由上述提到的个体适应度决定。
但是，这里存在两种复制方案，我认为有必要在这里说明一下：

① 将适应度从大到小进行排序，选取适应度最优的P_0个个体遗传到下一代

②依照适应度大小，得出被遗传的概率大小，依照概率随机抽选个体遗传。该方法中，最优个体有可能在复制中被丢失；最差个体也有可能被复制到下一代。

部分小伙伴可能理所当然认为①是最合理的。但并不是，两种方法有其各自的应用范围。下面分别谈谈：

1、办法①在求解一些简单的优化问题，通常局部最优即为全局最优解的问题是适用的。但是，每一步都只保留优秀个体而损失不良个体，可能会被“暂时的优秀”，即局部最优所蒙蔽。这种做法在面对复杂函数时，会失去一定的全局搜索能力。

3）新种群交配（交叉）
每次交叉的两个染色体为步骤2)中选出的染色体，将其序号作为参数传入crossover子函数中，是否交配遵循以下规则：

①依交叉概率pcrossover，使用下函数随机决定两个染色体是否发生交叉(后面判断是否变异也用它)。
②若发生交叉，再使用rand函数抽取一个交叉节点，将两个染色体节点前、后的部分交叉。

4）基因突变
基因变异即将基因序列上的某一位进行0-1翻转。变异的基因为由rand函数随机产生。
是否发生变异由变异概率pmutation决定。

5）主函数 遗传迭代
将函数块组合到主函数中，进行遗传迭代。

⛄二、BP神经网络简介

1 BP神经网络概述
BP（Back Propagation）神经网络是1986年由Rumelhart和McCelland为首的科研小组提出，参见他们发表在Nature上的论文 Learning representations by back-propagating errors 。
BP神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的 输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断 调整网络的权值和阈值，使网络的误差平方和最小。

2 BP算法的基本思想
上一次我们说到，多层感知器在如何获取隐层的权值的问题上遇到了瓶颈。既然我们无法直接得到隐层的权值，能否先通过输出层得到输出结果和期望输出的误差来间接调整隐层的权值呢？BP算法就是采用这样的思想设计出来的算法，它的基本思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。
正向传播时，输入样本从输入层传入,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望的输出(教师信号)不符,则转入误差的反向传播阶段。
反向传播时，将输出以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这两个过程的具体流程会在后文介绍。

BP算法的信号流向图如下图所示

3 BP网络特性分析——BP三要素
我们分析一个ANN时，通常都是从它的三要素入手，即
1)网络拓扑结构；
2)传递函数；
3)学习算法。

每一个要素的特性加起来就决定了这个ANN的功能特性。所以，我们也从这三要素入手对BP网络的研究。

3.1 BP网络的拓扑结构
上一次已经说了，BP网络实际上就是多层感知器，因此它的拓扑结构和多层感知器的拓扑结构相同。由于单隐层（三层）感知器已经能够解决简单的非线性问题，因此应用最为普遍。三层感知器的拓扑结构如下图所示。
一个最简单的三层BP：

3.2 BP网络的传递函数
BP网络采用的传递函数是非线性变换函数——Sigmoid函数（又称S函数）。其特点是函数本身及其导数都是连续的，因而在处理上十分方便。为什么要选择这个函数，等下在介绍BP网络的学习算法的时候会进行进一步的介绍。
单极性S型函数曲线如下图所示。

双极性S型函数曲线如下图所示。

3.3 BP网络的学习算法
BP网络的学习算法就是BP算法，又叫 δ 算法（在ANN的学习过程中我们会发现不少具有多个名称的术语）， 以三层感知器为例，当网络输出与期望输出不等时，存在输出误差 E ，定义如下




下面我们会介绍BP网络的学习训练的具体过程。

4 BP网络的训练分解
训练一个BP神经网络，实际上就是调整网络的权重和偏置这两个参数，BP神经网络的训练过程分两部分：

前向传输，逐层波浪式的传递输出值；
逆向反馈，反向逐层调整权重和偏置；
我们先来看前向传输。
前向传输（Feed-Forward前向反馈）
在训练网络之前，我们需要随机初始化权重和偏置，对每一个权重取[ − 1 , 1 ] [-1,1][−1,1]的一个随机实数，每一个偏置取[ 0 , 1 ] [0,1][0,1]的一个随机实数，之后就开始进行前向传输。

神经网络的训练是由多趟迭代完成的，每一趟迭代都使用训练集的所有记录，而每一次训练网络只使用一条记录，抽象的描述如下：

while 终止条件未满足：
    for record:dataset:
        trainModel(record)

4.1 逆向反馈（Backpropagation）


4.2 训练终止条件
每一轮训练都使用数据集的所有记录，但什么时候停止，停止条件有下面两种：
设置最大迭代次数，比如使用数据集迭代100次后停止训练
计算训练集在网络上的预测准确率，达到一定门限值后停止训练

5 BP网络运行的具体流程
5.1 网络结构
输入层有n nn个神经元，隐含层有p pp个神经元，输出层有q qq个神经元。

5.2 变量定义








第九步：判断模型合理性
判断网络误差是否满足要求。
当误差达到预设精度或者学习次数大于设计的最大次数，则结束算法。
否则，选取下一个学习样本以及对应的输出期望，返回第三部，进入下一轮学习。

6 BP网络的设计
在进行BP网络的设计是，一般应从网络的层数、每层中的神经元个数和激活函数、初始值以及学习速率等几个方面来进行考虑，下面是一些选取的原则。

6.1 网络的层数
理论已经证明，具有偏差和至少一个S型隐层加上一个线性输出层的网络，能够逼近任何有理函数，增加层数可以进一步降低误差，提高精度，但同时也是网络 复杂化。另外不能用仅具有非线性激活函数的单层网络来解决问题，因为能用单层网络解决的问题，用自适应线性网络也一定能解决，而且自适应线性网络的 运算速度更快，而对于只能用非线性函数解决的问题，单层精度又不够高，也只有增加层数才能达到期望的结果。

6.2 隐层神经元的个数
网络训练精度的提高，可以通过采用一个隐含层，而增加其神经元个数的方法来获得，这在结构实现上要比增加网络层数简单得多。一般而言，我们用精度和 训练网络的时间来恒量一个神经网络设计的好坏：
（1）神经元数太少时，网络不能很好的学习，训练迭代的次数也比较多，训练精度也不高。
（2）神经元数太多时，网络的功能越强大，精确度也更高，训练迭代的次数也大，可能会出现过拟合(over fitting)现象。
由此，我们得到神经网络隐层神经元个数的选取原则是：在能够解决问题的前提下，再加上一两个神经元，以加快误差下降速度即可。

6.3 初始权值的选取
一般初始权值是取值在(−1,1)之间的随机数。另外威得罗等人在分析了两层网络是如何对一个函数进行训练后，提出选择初始权值量级为s√r的策略， 其中r为输入个数，s为第一层神经元个数。

6.4 学习速率
学习速率一般选取为0.01−0.8，大的学习速率可能导致系统的不稳定，但小的学习速率导致收敛太慢，需要较长的训练时间。对于较复杂的网络， 在误差曲面的不同位置可能需要不同的学习速率，为了减少寻找学习速率的训练次数及时间，比较合适的方法是采用变化的自适应学习速率，使网络在 不同的阶段设置不同大小的学习速率。

6.5 期望误差的选取
在设计网络的过程中，期望误差值也应当通过对比训练后确定一个合适的值，这个合适的值是相对于所需要的隐层节点数来确定的。一般情况下，可以同时对两个不同 的期望误差值的网络进行训练，最后通过综合因素来确定其中一个网络。

7 BP网络的局限性
BP网络具有以下的几个问题：
(1)需要较长的训练时间：这主要是由于学习速率太小所造成的，可采用变化的或自适应的学习速率来加以改进。
(2)完全不能训练：这主要表现在网络的麻痹上，通常为了避免这种情况的产生，一是选取较小的初始权值，而是采用较小的学习速率。
(3)局部最小值：这里采用的梯度下降法可能收敛到局部最小值，采用多层网络或较多的神经元，有可能得到更好的结果。

8 BP网络的改进
P算法改进的主要目标是加快训练速度，避免陷入局部极小值等，常见的改进方法有带动量因子算法、自适应学习速率、变化的学习速率以及作用函数后缩法等。 动量因子法的基本思想是在反向传播的基础上，在每一个权值的变化上加上一项正比于前次权值变化的值，并根据反向传播法来产生新的权值变化。而自适应学习 速率的方法则是针对一些特定的问题的。改变学习速率的方法的原则是，若连续几次迭代中，若目标函数对某个权倒数的符号相同，则这个权的学习速率增加， 反之若符号相反则减小它的学习速率。而作用函数后缩法则是将作用函数进行平移，即加上一个常数。

⛄三、部分源代码

clc
close all
clear all
%% 训练BP模型
datapath=‘f=85000.xls’;
% datapath=‘f=6.393341925217580e+04.xls’;
myBP=BPMod(datapath);
%% 模型参数
f=85000;
RL_max=200;
RL_min=50;
M_max=1e-4;
M_min=1e-5;
%% GA参数设置
Maxgen=100;
Popnum=50;
Pc=0.5;
Pm=0.5;
%% 初始化种群
for i=1:Popnum
chrom(i).M=(M_max-M_min)*rand()+M_min;
chrom(i).RL=(RL_max-RL_min)*rand()+RL_min;
chrom(i).fitness=getfitness(myBP,f,chrom(i).M,chrom(i).RL);
end
%% 种群进化
gen=0;
while gen<Maxgen
gen=gen+1
Newchrom=chrom;
for i=1:Popnum
temppop=Newchrom(i);
pc=rand();
if pc<Pc
temppop=across(temppop,chrom,Popnum,myBP,f);
end
pm=0;
if pm<Pm
temppop=mutation(temppop,myBP,f,M_max,M_min,RL_max,RL_min);
end
Newchrom(i)=temppop;
end
Chrom_all=[chrom,Newchrom];
[V,ind]=sort([Chrom_all.fitness]);
chrom=Chrom_all(ind(1:Popnum));
bestV(gen)=V(1);
bestpop(gen)=Chrom_all(ind(1));
end
%% 显示结果
figure
plot(bestV)
xlabel(‘迭代次数’)
ylabel(‘目标函数值’)
title(‘进化曲线’)
legend(‘最优解’)
disp([‘最小误差为：’,num2str(bestV(end))])
disp([‘最小误差对应的M为：’,num2str(bestpop(end).M)])
disp([‘最小误差对应的RL为：’,num2str(bestpop(end).RL)])

[~,I]=getfitness(myBP,f,bestpop(end).M,bestpop(end).RL);

disp([‘Iin计算值为：’,num2str(I.Iin_exp)])
disp([‘Icf计算值为：’,num2str(I.Icf_exp)])
disp([‘Iin测量值（BP预测）为：’,num2str(I.Iin_real)])
disp([‘Icf测量值（BP预测）为：’,num2str(I.Icf_real)])

⛄四、运行结果

⛄五、matlab版本及参考文献

1 matlab版本
2014a

2 参考文献
[1]祁翔,张心光.基于遗传算法优化BP神经网络的预测建模[J].智能计算机与应用. 2021,11(05)

3 备注
简介此部分摘自互联网，仅供参考，若侵权，联系删除

🍅 仿真咨询
1 各类智能优化算法改进及应用
生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化

2 机器学习和深度学习方面
卷积神经网络（CNN）、LSTM、支持向量机（SVM）、最小二乘支持向量机（LSSVM）、极限学习机（ELM）、核极限学习机（KELM）、BP、RBF、宽度学习、DBN、RF、RBF、DELM、XGBOOST、TCN实现风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断

3 图像处理方面
图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知

4 路径规划方面
旅行商问题（TSP）、车辆路径问题（VRP、MVRP、CVRP、VRPTW等）、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、车辆协同无人机路径规划、天线线性阵列分布优化、车间布局优化

5 无人机应用方面
无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配

6 无线传感器定位及布局方面
传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化

7 信号处理方面
信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化

8 电力系统方面
微电网优化、无功优化、配电网重构、储能配置

9 元胞自动机方面
交通流 人群疏散 病毒扩散 晶体生长

10 雷达方面
卡尔曼滤波跟踪、航迹关联、航迹融合