3、智能计算方法：从神经网络到进化算法

智能计算方法：从神经网络到进化算法

1. 神经网络计算

神经网络计算受生物学启发，是一种通过模仿生物神经系统信息处理机制建立的并行、非算法信息处理模型。它将人脑模型表示为具有互连结构的非线性动态系统，即人工神经网络模拟人脑机制来实现计算行为。在这种互连机制中，无需提前建立精确的数学模型。人工神经网络的求解知识通过大量互连的人工神经元之间连接权重的分布式存储来表示，并通过给定样本集中的学习样本建立输入 - 输出映射关系。

目前，多种人工神经元和人工神经网络可作为神经网络计算的模型，如 MP 神经元模型、过程神经元模型、BP 神经网络、过程神经网络等。在神经网络计算中，有两个关键步骤：
- 构建合适的神经网络模型。
- 根据实际应用设计相应的学习算法。

已经证明，任何有限问题（可由有限自动机解决的问题）都可以由神经网络解决，反之亦然，因此神经网络的求解能力等同于有限自动机。在连续情况下，多层前馈神经网络可以在 $R^n$（$R^n$ 是 $n$ 维实数空间）中逼近任何多元函数 $f:R^n \to R^m$。

2. 进化计算

自然界或客观世界中的许多现象能为我们的研究带来深刻启示，例如模拟生物进化规律来解决一些更复杂的实际问题。在这个例子中，通过模拟自然规律逐渐产生更好的解决方案，而无需清晰描述问题的所有特征。进化计算就是基于上述思路的一种广义求解方法，它采用简单的编码技术来表达复杂结构，并通过简单的遗传操作和一组代码的优化自然选择来引导系统学习或确定搜索方向。

进化计算采用种群组织搜索的方式，能同时在解空间的多个区域进行搜索，具有自组织、自适应、自学习等智能特征以及并行处理的特点。这些特点意味着进化