阅读笔记4——感受野

一、概念

  感受野是指特征图上的某个点能看到的输入图像的区域，即特征图上的点是由输入图像中感受野大小的区域经过计算得到的。

二、示意图

  图2-1所示为一个三层卷积网络，每一层的卷积核大小为$3\times 3$，步长为$1$。

图2-1 感受野示意图

• 第一层感受野大小

图2-2 第一层感受野示意图

  如图2-2所示，第一层特征图中的一个点对应输入图像的区域大小为$3\times 3$，因此第一层特征图的感受野大小为$3\times 3$。

• 第二层感受野大小

图2-3 第二层感受野示意图

  如图2-3所示，第二层特征图中的一个点对应输入图像的区域大小为$5\times 5$，因此第二层特征图的感受野大小为$5\times 5$。

• 第三层感受野大小
  

图2-4 第三层感受野示意图

  如图2-4所示，第三层特征图中的一个点对应输入图像的区域大小为$7\times 7$，因此第二层特征图的感受野大小为$7\times 7$。

三、计算公式

  卷积层和池化层都会影响感受野，而激活函数层通常对感受野没有影响。对于一般的卷积神经网络，感受野可由式（3-1）和式（3-2）计算得出。

$$R{F}_{l+1}=R{F}_l+\left(k-1\right)\times S_l\text{\hspace{1em}(3-1)}$$

$$S_l=\prod _{i=1}^{l}Strid{e}_i\text{\hspace{1em}(3-2)}$$

  其中，$R{F}_{l+1}$与$R{F}_l$分别代表第$l+1$层与第$l$层的感受野，$k$代表第$l+1$层卷积核的大小，$S_l$代表前$l$层的步长之积。注意，当前层的步长并不影响当前层的感受野。

四、有效感受野

  通过式（3-1）和式（3-2）求取出的感受野通常很大，而实际的有效感受野往往小于理论感受野。

  从图2-4中可以看出，虽然第三层的感受野是$7\times 7$，但是输入层中边缘点的使用次数明显比中间点要少，因此做出的贡献不同。

  经过多层的卷积堆叠之后，输入层对于特征图点做出的贡献分布呈高斯分布形状。