28、通用神经场计算：原理与实现

通用神经场计算：原理与实现

1. 引言

对神经动力系统计算能力的研究始于1943年McCulloch和Pitts的开创性文章，他们探讨了理想的二态神经元网络，这些神经元本质上像逻辑门一样工作。如今的计算机实际上就是大规模的逻辑门网络，因此原则上可以由McCulloch - Pitts单元的神经网络构建。然而，即使是最强大的现代工作站，从数学角度看，由于其内存虽大但有限，也只是一个有限状态机，而通用计算机（形式上定义为图灵机）拥有无限的存储带。

Siegelmann和Sontag证明了使用具有S形激活函数的连续状态单元，一个约900个单元的递归神经网络可以实现通用图灵机。Moore也曾使用哥德尔编码来证明非线性动态自动机与图灵机的等价性。此外，Pollack、Moore和Tabor等人通过部署顺序级联网络，将动态自动机推广为非自治动态系统，Moore和Crutchfield进一步将其推广到量子自动机的概念。

早在1947年，McCulloch和Pitts的另一篇论文就为连续神经系统中的功能表示奠定了基础。他们研究了在代表视觉或听觉特征空间的皮质或皮质下映射上的分布式神经激活，将这些神经场复制到多个层，每层根据对称群的特定成员对场进行变换，并应用场泛函来获得用于模式检测的群不变量，这为动态场架构提供了必要的元素。

2. 通用计算原理

2.1 动态场架构

动态场架构是一个分层的动态神经场系统，其中$u_i(x,t) \in R$，$1 \leq i \leq n$表示层，$x \in D$表示合适的$d$维特征空间$D \subseteq R^d$中的空间位置，$t \in R^+ 0$表示时间。通常，这些场