64、分布式群体编码网络中的动态线索组合

分布式群体编码网络中的动态线索组合

1. 静态线索组合基础

在静态线索组合问题中，输入（如视觉和本体感觉）与输出（位移）之间的关系需要被保留。线索组合可以被看作是基于输入来推断分布的问题，即根据输入 $x_1$ 和 $x_2$ 推断 $y$ 的分布 $p(y|x_1,x_2)$。

假设输入根据某种编码方案指定了概率分布 $p(x_1|y)$ 和 $p(x_2|y)$，贝叶斯最优的推理方法如下：
- 公式（20.1）：[此处原文档未给出具体公式内容]
- 公式（20.2）：[此处原文档未给出具体公式内容]

其中，$p(y)$ 是 $y$ 的先验分布。我们假设不同输入中的信息是独立的，并且存在一个概率生成模型，它指定了对于任何给定的位移 $y$，可能的视觉目标和本体感觉手指位置的分布 $p(x_1,x_2|y)$ 是如何产生的。公式（20.2）确立了理想观察者，即判断关于 $y$ 的分布推断的标准。

网络中的计算由这个概率公式引导。前馈连接决定了如何将 $x_1$ 和 $x_2$ 组合以产生 $y$，使得 $p(y|x_1,x_2)$ 定义的分布尽可能接近公式（20.2）。

解码形式有多种选择：
- 核密度估计 ：概率密度函数（PDF）是群体中每个神经元提出的 PDF 的加权和，权重为其活动（Anderson, 1994）。
- 最大似然方案 ：更优但更复杂（Zemel 等, 1998）。
- 对数线性组合 ：将 PDF 解码为每个神经元提出的 PDF 的对数线性组合（Hinton,