XSepConv 极致分离卷积块优于DWConv | Extremely Separated Convolution

思想简单有效，准备手动实现一下代码
自己实现代码连接：https://blog.youkuaiyun.com/weixin_42096202/article/details/104778248

Abstract：

DWConv已逐渐成为现代高效神经网络不可或缺的运算，近来更大尺寸的卷积(5X5)也被应用于此。在本文中，我们提出了一种新型的极致分离卷积块(XSepConv)，它将空间分离卷积融合成DWConv，以进一步降低计算成本和大核的参数大小。此外，我们使用额外的2X2DWConv加上改进的对称padding策略来补偿空间分离卷积带来的副作用。XSepConv的设计可以高效的替代大核尺寸的DWConv。为了验证这一点，我们将XSepConv应用于最先进的架构MobileNetV3-Small，并在四个竞争激烈的基准数据集(CIFAR-10、CIFAR-100、SVHN和Tiny-ImageNet)上进行了广泛的实验，以证明XSepConv确实能够在准确性和效率之间取得更好的平衡。

Introduction：

1.之前应用较多的轻量级网络大多是基于深度可分离卷积的，属于分组卷积的个例，其中
Depthwise separable convolutions = Depthwise convolution + Pointwise