空间金字塔池化、空洞卷积、深度可分离卷积

 空间金字塔池化

其主要目的是对于任意尺寸的输入产生固定大小的输出

思路：对于不同大小的feature map分成不同大小的块（不同大小的等份，根据具体情况进行设定），然后对每一份进行最大池化（一般是进行最大池化），将池化后的feature map拼接到一个固定维度的输出，

参考：空间金字塔池化（Spatial Pyramid Pooling，SPP）_机器不学习我学习的博客-优快云博客

参考：Spatial Pyramid Pooling（空间金字塔池化）-变尺度CNN训练_沈子恒的博客-优快云博客

空洞卷积

 作用：增加感受野、捕获多尺度上下文信息

其进行的卷积操作和常规卷积操作相同，但卷积核会进行变化；卷积核会根据rate，在卷积值两两之间增加rate-1个0，这样来说卷积核的尺度就变大了；

（一般的卷积操作中，进行了点乘操作之后进行相加得到一个特征图的值，在空洞卷积中，因为补了0，所以卷积核大小变化，进行点乘操作时，感受野会相应增加）

参考：卷积神经网络（CNN）之卷积操作、池化操作、激活函数_卷积神经网络激活函数_CV技术指南的博客-优快云博客

深度可分离卷积

深度可分离卷积将卷积操作分成两步：深度卷积和逐点卷积。

深度卷积在每个输入通道上执行独立的卷积操作，每一个特征图对应一个卷积核进行卷积操作（也就是说一个特征图有一个特定的卷积核）

逐点卷积在输出通道上执行一个全连接操作，将深度卷积的特征图通过1*1的卷积核连接在一起。

这样可以大幅度减少参数数量和计算量，同时保持模型的表现力。

（减少了计算复杂度，主要体现在计算量上，可以通过公式体现出来）

如下图：

参考：普通卷积、分组卷积和深度分离卷积概念以及参数量计算_深度可分离卷积参数量_AI浩的博客-优快云博客