深度学习基础--卷积--局部连接层(Locally-Connected Layer)

局部连接层(Locally-Connected Layer)

  locally-conv的概念来自传统ML中的模型初始化（随机树方法中每个图像的crop都对应特定的一棵树）。
  参数共享这个策略并不是每个场景下都合适的。有一些特定的场合，我们不能把图片上的这些窗口数据都视作作用等同的。（特别是当卷积神经网络的输入图像是一些明确的中心结构时候。）
  当图像局部相似匹配时，我们就应该期望在图片的不同位置学习到完全不同的特征。

什么时候用local-conv？什么时候用全卷积（每一个点用同一个filter）？

  当数据集具有全局的局部特征分布时，也就是说局部特征之间有较强的相关性，适合用全卷积。在不同的区域有不同的特征分布时，适合用local-Conv。

典型例子就是人脸识别

  在这个例子中，通常就放松参数共享的限制。
  一般人的面部都集中在图像的中央，你可能期望不同的特征，比如眼睛特征或者头发特征可能（也应该）会在图片的不同位置被学习。
  因此我们希望，数据窗口滑过这块区域的时候，权重和其他边缘区域是不同的。