73、深入探索底物编码：神经网络的创新之路

深入探索底物编码：神经网络的创新之路

1. 底物编码概述

底物编码是一种新兴的神经网络编码方法，它由HyperNEAT神经进化系统推广开来。这种方法旨在解决神经网络系统规模增大时出现的维度灾难问题，即随着系统规模的扩大，需要进化和处理的变量数量急剧增加。

在底物编码中，并非直接进化的神经网络来处理传感器输入信号并输出信号控制执行器与外界交互，而是由嵌入了神经节点（neurodes）的多维底物与环境进行交互。底物本质上是一个超立方体，每个轴的范围从 -1 到 1，神经节点分布在这个多维空间中，每个节点都有自己的坐标，并且以特定模式相互连接，从而使底物代表一个神经网络。

关键在于，我们无需直接进化神经节点的连接模式和突触权重，而是通过进化一个神经网络来为底物内的神经节点设置突触权重和连接表达。例如，即使一个 3D 底物包含数百万个相互连接的神经节点，用于设置这些节点突触权重的神经网络可能只需几十个神经元。具体做法是将底物内相连神经节点的坐标输入到神经网络，其输出即为这些神经节点之间的突触权重。

底物编码具有以下显著优势：
- 输入向量长度可控 ：由于神经网络处理的是坐标，其输入向量长度最多为 2 * 底物维度，缓解了因输入向量过大带来的问题。
- 几何规律敏感性 ：系统对输入中的几何规律敏感，能够根据问题的几何特征设置底物的几何形状，更适合处理包含几何数据的输入，如图像数据。

2. 底物的拓扑结构与连接方式

底物的拓扑结构和神经节点的连接方式是重要的问题，同时还涉及如何将传感器数据传递到底物以及如何利用底物输出控制执行器。 <