20、基于遗传算法的反向传播网络：原理、实现与应用

基于遗传算法的反向传播网络：原理、实现与应用

1. 引言

神经网络通过自学习和自组织来解决问题，其中反向传播网络（BPN）是目前应用最广泛且最知名的神经网络系统之一。它在分类问题、文本语音合成、自适应机器人控制、系统建模以及各种工程问题中都有应用。

BPN的学习算法是一种带有反向误差（梯度）传播的梯度下降技术。然而，它存在一些局限性，比如虽然能够识别与所学模式相似的模式，但缺乏识别新模式的能力。此外，为了提取适用于已见和未见实例的通用特征，网络需要进行充分训练，但过度训练可能会导致不良影响。而且，BPN在误差表面上使用梯度下降技术进行搜索以最小化误差准则，这使得它很容易陷入局部最小值。

遗传算法（GAs）是一种自适应搜索和优化算法，它模仿自然遗传学的原理。与传统的工程设计搜索和优化技术不同，遗传算法具有简单、易操作、要求低和全局视角等优点。虽然它不能保证找到问题的全局最优解，但能在较少的迭代次数内找到“可接受的好”解决方案。

因此，将遗传算法和反向传播网络相结合的想法应运而生。一些研究人员尝试用遗传算法来引导反向传播网络寻找必要的连接，以提高训练速度。接下来，我们将详细介绍一种基于遗传算法的BPN权重确定技术。

2. 基于遗传算法的权重确定

2.1 编码

在遗传算法中，代表问题潜在解决方案的参数（基因）连接在一起形成一个字符串，称为染色体。大多数传统的遗传算法使用二进制编码，但这里采用了实数（十进制）编码系统。

假设一个BPN的网络配置为l - m - n（l个输入神经元、m个隐藏神经元和n个输出神经元），需要确定的权重数量为(l + n)m。每个权重（基因）是一个实数，假