8、人工神经网络的增长策略

人工神经网络的增长策略

1. 引言

在神经网络的发展中，如何让网络有效地增长是一个关键问题。本文将介绍几种常见的人工神经网络增长策略，包括改变网络层数、特定层的神经元数量以及层间连接性等，并通过具体示例展示这些策略的效果。

2. 结果获取方法

为了获取实验结果，采用了多种方法来生成神经网络：
- 直接使用C和C++编程语言进行编码。
- 主要使用BASIC编程语言进行原型设计。
- 运用MATLAB数学建模软件。
- 借助MATLAB神经网络工具箱。

网络训练通常采用反向传播算法（Backpropagation），除非拓扑结构使该方法难以实施，此时会使用柯西算法（Cauchy Algorithm）或遗传算法（GA learning）。对于一些复杂网络，还会使用带有动量的反向传播算法来帮助克服局部极小值问题。对称反馈网络则使用符合格罗斯伯格稳定性准则（Grossberg Stability Criterion）的霍普菲尔德学习算法（Hopfield learning）或递归反向传播算法进行训练。此外，还使用田口方法开发了一种新的通用学习算法。

网络测试使用来自MATLAB神经网络工具箱的测试向量或特定构造的数据集。由于训练网络具有伪随机性质，为了克服不同初始条件导致的结果差异，所有结果均通过四次不同初始权重的试验运行获得，并在适当情况下指定四个最终结果的最大标准差。

示例图表通常以训练轮数（Training epoch）为x轴，以均方误差（Sum Squared Error，SSE）为y轴。训练轮数指网络经历的训练周期数，均方误差是特定输入下输出与目标之间平方差的总和，计算公式如