积神经网络结构变化——可变形卷积网络deformable convolutional networks

参考资料：https://blog.youkuaiyun.com/xbinworld/article/details/69367281

                  https://blog.youkuaiyun.com/zhangjunhit/article/details/67638559

本文可以看做是对 Spatial Transformer Networks 工作的深入，通过 deformable convolution 和 deformable RoI pooling提升当前CNN网络的空间信息建模能力。

Spatial Transformer Networks建立的是 global、sparse transformation ，本文的Deformable Convolutional Networks建立的是 local and dense transformation

2.1. Deformable Convolution

如上图，（a）是常规的一个3*3卷积窗口，（b）蓝色点就是原来的卷积窗口加上了一个offset的情况，（c）表示可以对进行窗口进行scale和aspect ratio的变换，（d）表示旋转； 

上图显示可变形卷积可以提高模型对 scale, aspect ratio and rotation 等映射的泛化能力。

卷积该具体怎么deformable，这个可以通过一个卷积层来学习，如下图所示

从公式层面来说：一般的卷积可以定义如下式：
 

对于可变形卷积定义如下：

这个 offset ∆p n 通过卷积网络学习得到

传统卷积和可变形卷积的对比：

 

2.2. Deformable RoI Pooling
标准的 RoI pooling 模块将一个任意尺寸的输入矩形框特征转换到固定尺寸的特征。它主要用于基于候选区域的目标检测算法中。
pooling operation 可以如下式定义：

 

deformable RoI pooling 定义如下：

这个 offsets 通过一个全链接层学习