经典论文| Neocognitron:一种不受位置变化影响的模式识别机制的自组织神经网络模型

论文概述

    该论文提出了一种用于视觉模式识别的无监督神经网络模型。该网络不受识别对象位置的影响，通过几何相似度的方法完成识别。论文中把这样的网络称为neocognitron。

    大多数神经网络模型受到输入模式的位置偏移和形状扭曲的严重影响，也就是说，相同的模式在不同的位置呈现或者相同样式的圆滑程度不同，被传统的神经网络视为不同的模式。然而，本文提出的自组织神经网络模型中，网络的响应几乎不受刺激模式位置的影响。

神经网络结构

    Hubel 和 Wiesel曾对细胞进行过一个分类：LGB (lateral geniculate body)→simple cells →complex cells →lower order hypercomplex cells →higher order hypercomplex cells

    如图1所示，neocognitron由一系列模块化结构级联连接构成，在所有结构之前的是一个输入层U0。每个模块结构是由两层细胞级联连接。模块的第一层由“S细胞(S-cells)”组成，S-cells对应于 simple cells或lower order hypercomplex cells, 我们称它为s层，并将第l个模块中的s层表示为Usl。该模块的第二层由“C细胞(c-cells)”构成，对应于complex cells或higher order hypercomplex cells。我们称它为c层，并将第l个模块中的c层表示为Ucl。在该神经网络中，只有s层细胞的输入突触具有可塑性和可修改性。

    一层中的s细胞或c细胞根据其对上层输入刺激的最佳感受部位的不同，被分成子群(subgroups)。由于每个子群中的细胞都可被圈定为一个二维平面图形，所以我们称这个子群为“细胞平面(cell-plane)”。S-plane