74、底物编码：神经网络间接编码的新探索

底物编码：神经网络间接编码的新探索

1. 底物编码概述

底物编码是一种间接编码方法，在解决神经网络系统的高维问题方面具有显著优势。传统直接编码的神经网络会随着系统规模增大而面临维数灾难，而底物编码通过将神经网络与多维底物相结合，有效缓解了这一问题。

1.1 底物与神经节点

底物是一个超立方体，每个轴的范围从 -1 到 1。在这个超立方体内嵌入了神经节点（neurodes），每个神经节点都有自己的坐标。神经节点之间以特定模式相互连接，从而使底物代表一个神经网络。

与直接进化神经节点的连接模式和突触权重不同，底物编码通过进化一个神经网络来为底物内的神经节点设置突触权重和连接表达。即使底物中包含数百万个相互连接的神经节点，用于设置突触权重的神经网络可能只需要几十个神经元。具体做法是将连接的神经节点的坐标输入到神经网络中，其输出作为这些神经节点之间的突触权重。

1.2 底物编码的优势

• 输入向量长度缩减 ：由于神经网络处理的是坐标，其输入向量长度最多为 2 * 底物维度，这缓解了与极大神经网络输入向量相关的问题。
• 几何规律敏感性 ：系统对输入中的几何规律敏感，能够设置底物的几何形状以模拟待解决问题的几何特征。对于包含几何数据的输入（如图像），底物编码比直接编码的神经网络更适合进行数据分析。

1.3 底物拓扑与连接模式

底物内神经节点的连接方式即底物的拓扑结构，常见的有以下几种：
- 超平面到超平面前馈拓扑