13、神经计算中的RELR模型与神经动力学解析

神经计算中的RELR模型与神经动力学解析

1. 神经元研究的历史背景与RELR的出现

在过去，就像原子的存在在19世纪的大部分时间里受到质疑一样，当时大多数科学家也不相信神经元的存在。在卡哈尔（Cajal）的研究之前，戈尔吉（Golgi）所倡导的主流观点认为，神经系统是通过一种称为网状结构的纤维网连续连接的，不存在离散的组成部分。卡哈尔发现神经元是通过突触连接的离散单元，这一发现对医学和制药应用产生了深远影响，但在机器学习的日常预测分析应用中，其影响尚未充分显现。如今，大多数广泛使用的用于模拟和预测人类行为结果的机器学习方法，包括流行的多层反向传播监督式人工神经网络，似乎与真正的神经元并没有很强的联系。

莱布尼茨（Leibniz）寻找“推理演算”（Calculus Ratiocinator）的目标是一个极具挑战性的问题，因为预测和解释复杂人类行为相关结果的分析方法有无数种可能的任意方式。我们可以依靠纯粹的统计理论来避免任意特征，但得到的解决方案可能只是一个理论上的数学解，不一定能反映出实际产生认知和行为的自然机制。而且统计理论也存在局限性，因为其底层假设可能并不正确。然而，如果那些被认为非任意的统计特性也能在神经元中观察到，那么我们就更有可能走上正确的道路。RELR（Reduced Error Logistic Regression）正是基于统计理论提供了一个可行的解决方案，它具有一些重要的计算特征，这些特征在神经元中也能看到。

RELR并非首个基于神经科学的预测分析方法，20世纪80年代引入的人工神经网络就曾进行过类似尝试。同时，RELR也不是第一个提出神经元本质上是一个不断预测自身最大概率输出的概率估计计算机的理论。那么，RELR在神经层面的计算建模有何不同呢？主要体现在以下