关于空洞卷积（Atrous Convolution）

内容节选自《神经网络与深度学习》电子版：https://nndl.github.io/

 

对于一个卷积层，如果希望增加输出单元的感受野，一般可以通过三种方式 实现：

  1）增加卷积核的大小；

  2）增加层数，比如两层3×3的卷积可以近似一层5×5 卷积的效果；

  3）在卷积之前进行汇聚操作。

前两种方式会增加参数数量，而 第三种方式会丢失一些信息。

 

空洞卷积（Atrous Convolution）是一种不增加参数数量同时增加输出单元感受野的一种方法，也称为膨胀卷积（Dilated Convolution）。 空洞卷积通过给卷积核插入“空洞”来变相地增加其大小。

如果在卷积核的每两个元素之间插入𝐷−1个空洞，卷积核的有效大小为

   𝐾′=𝐾+(𝐾−1)×(𝐷−1)

其中𝐷称为膨胀率（DilationRate），当𝐷=1时卷积核为普通的卷积核。