71、视觉感受野的上下文调制：贝叶斯视角解读

视觉感受野的上下文调制：贝叶斯视角解读

1. 输入选择性除法抑制的原理

在视觉处理中，输入选择性除法抑制起着关键作用。以往的模型通过中心 - 环绕“去相关”感受野、侧向减法抑制或除法归一化来减少冗余。但我们的模型需要更具选择性的交互形式，因为每个突触输入都能被其他探测器对该突触放电率的预测有选择地分流。

以“椅子”和“桌子”神经元为例，它们会预测一些低级特征，部分特征是特定的，许多是两者共有的。对应的感受器有重叠的“因果场”，因此共享大量连接。如果这两个感受器不竞争，就会导致两个神经元共同激活，比如“椅子”神经元可能在看到桌子时也报告有椅子。

这种现象被称为“解释消除”。当“椅子”神经元被激活时，它应阻止“桌子”神经元对它们共有的特征（如四条腿）做出反应，但不应影响桌子特有的特征（如瓶子）。通过其他对象对每个对象探测器输入的预测进行增益调制，输出层就能根据视觉场景的需求，在只有桌子、只有椅子或两者都有的情况下做出适当反应。

2. 网络性能与除法抑制

我们所描述的网络进行近似推理。精确计算后验对象概率需要计算所有可能的对象组合概率，这显然是难以实现的。我们提出的神经机制改为计算每个对象的 N 个边缘概率，且这种近似方法效果显著。

与之对比，纯前馈网络（无侧向除法抑制）无法有效解决歧义，难以区分相似对象。这是因为不同对象的因果场存在重叠，即多个对象可能预测相同的感受器神经元活动，导致不同探测器神经元之间有大量共享输入。如果共享大部分输入的探测器神经元不竞争，它们的输出会高度相关且冗余。

侧向除法抑制对前馈输入进行增益调制，并在竞争的探测器之间重新分配输入。实际上，神经元在任何时候接收到的大部分前馈连接