极致分离卷积块 XSepConv 学习笔记（附代码）

最新推荐文章于 2025-02-27 08:00:00 发布

原创

最新推荐文章于 2025-02-27 08:00:00 发布 · 631 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能 #笔记 #网络 #学习

文章介绍了一种由清华大学提出的新型卷积神经网络模块XSepConv，它结合深度和逐通道卷积，以及空间可分卷积，通过改进的对称padding策略减少计算成本和参数大小。XSepConv在保持性能的同时优化了轻量级网络架构。

论文地址：https://arxiv.org/pdf/2002.12046.pdf

代码地址：

1.是什么？

XSepConv是由清华大学提出的，它是一种新型的卷积神经网络模块，可以在保持计算量不变的情况下提高模型的性能。XSepConv的特点是将深度卷积和逐通道卷积结合起来，同时使用可分离卷积和组卷积来提高模型的性能。

XSepConv是一种新型的极度分离卷积块，它将空间可分离卷积融合为深度卷积，以进一步降低大内核的计算成本和参数大小。XSepConv由3个部分组成:2x2深度卷积核;1个k深度卷积核;和k1个深度卷积核。1×k和k×1深度卷积一起形成所说的空间分离深度卷积，其中2×2深度卷积起着重要的作用用于捕获由于固有的结构缺陷而可能被空间分离深度卷积丢失的信息。

2.为什么？

1.之前应用较多的轻量级网络大多是基于深度可分离卷积的，属于分组卷积的个例，其中
Depthwise separable convolutions = Depthwise convolution + Pointwise convolution

2.Nips2019的工作Convolution with even-sized kernels and symmetric padding，使用对称padding策略解决了偶数尺寸大小的卷积提取特征带来的位置偏移问题。与深度卷积相比，偶数大小的传统卷积也可以获得具有竞争力的精度

3.之前的相关工作如MixNet探索了卷积核大小对于性能的影响，大尺寸的卷积被证明可以有效增强网络性能

4.空间分离卷积 == KxK卷积 = Kx1卷积 + 1xK卷积，可以进一步节省计算成本。考虑到基于深度卷积的CNNs主要侧重于对通道数的探索以达到降低计算成本的目的，可以通过对正交空间空间维数的进一步分解来实现更大幅度的压缩，特别是对大深度卷积核。空间可分卷积可以看作是空间层次上的分解，由宽度方向的卷积和高度方向的卷积组成，近似替代原来的二维空间卷积，从而降低了计算复杂度。然而，直接将空间可分卷积应用在网络架构中会带来大量的信息损失。

提出了一种极致分离的卷积块XSepConv，它将深度分离卷积与空间可分卷积混合在一起，形成空间可分的深度卷积，进一步减少了大深度卷积核的参数大小和计算量。考虑到空间分离卷积特别是在水平和竖直方向上缺乏足够的捕获信息的能力，额外的操作需要捕捉信息在其他方向(e.g.对角方向)避免信息大量丢失。在这里，我们使用一个简单而有效的操作，2X2DWConv与改进的对称填充策略，在一定程度上以补偿上述副作用。

3.怎么样？

3.1网络结构

1.basic XSepConv block：
K×K DW = 2×2 DW（改进对称padding策略）+1×K DW + K×1 DW
利用空间分离卷积来减小大深度卷积核的参数大小和计算复杂度，并使用一个额外的2x2深度卷积和改进的对称填充策略来补偿空间可分卷积带来的副作用。

2.down sampling XSepConv block：
K×K DW = 2×2 DW（改进对称padding策略）+1×K DW(stride=2) + K×1 DW(stride=2)
相当于在竖直水平两个方向分别down sampling，论文中还分析了具体计算量和参数量的计算，讨论了down sampling模块适用于卷积核尺寸>7