8、探索神经波机器：结构、实验与潜力

探索神经波机器：结构、实验与潜力

1. 基准任务与评估

基准任务包含多种由已知运动方程控制的任务，例如理想化的弹簧、摆、轨道和双摆等玩具物理示例，以及循环游戏。模型的评估基于其从有限数量的推理帧准确预测未来动态的能力。

2. 测量时空结构

为了测量神经波机器（NWM）学习到的时空表征结构及其与自然结构的一致性，我们从两个最简单的任务开始：对简单正弦波进行建模，以及对旋转的MNIST数字进行建模。我们使用三种不同的方法来分析在这些任务上学习到的表征：
- Cohen’s d选择性度量 ：用于描绘空间组织。
- 希尔伯特变换 ：用于测量假定波的瞬时相位和速度。
- 人工诱导行波与可视化重建 ：用于测量潜在行波与观察到的变换的近似等效性。

3. 地形定向选择性

测量神经表征空间组织的一种常见方法是测量它们对不同特征的选择性，并根据每个神经元的位置进行绘制。为了测试基本形式的选择性（即定向选择性），我们考虑了一个关于这种结构最初如何在动物中出现的假设。具体来说，我们研究了简单的周期性输入（如早期发育过程中观察到的自发视网膜波）在由最小NWM建模时是否足以促进定向选择性的平滑地形组织。

3.1 实验步骤

1. 在简单正弦波数据集上训练模型。
2. 使用Cohen’s d度量测量每个隐藏神经元对静态36元素定向光栅序列的时间平均响应的定向选择性。
3. 绘制每个72×72神经元的最大d值的颜色/角度（如果所有d &l