蓝图分离卷积BSConv 学习笔记（附代码）

最新推荐文章于 2024-12-28 10:13:23 发布

原创

最新推荐文章于 2024-12-28 10:13:23 发布 · 2.7k 阅读

11 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能 #笔记 #网络 #学习

本文介绍了一种新型卷积运算BSConv，它改进了深度可分离卷积，利用内核内的相关性提高效率。BSConv通过理论推导和实验验证，显示在分类任务中能显著提升性能，尤其是在细粒度问题上。文章还详细阐述了BSConv的结构、变种及其实现方式。

论文地址：https://arxiv.org/abs/2003.13549

代码地址：https://github.com/zeiss-microscopy/BSConv

1.是什么？

BSConv是深度可分离卷积DSConv的升级版本，它更好地利用内核内部相关性来实现高效分离。具体而言，BSConvU是将一个标准的卷积分解为1x1卷积（PW）和一个逐通道卷积，是深度可分离卷积（DSConv—逐通道、逐点）的逆向版本。此外，BSConv还有一个变体操作—BSConvS。

2.为什么？

受启发于预训练模型的核属性的量化分析：深度方向的强相关性。作者提出一种“蓝图分离卷积”(blueprint separable convolutions, BSConv)作为高效CNN的构建模块。

基于该发现，作者构建了一套理论基础并用于推导如何采用标准OP进行高效实现。更进一步，所提方法为深度分离卷积的应用(深度分离卷积已成为当前主流网络架构的核心模块)提供了系统的理论推导、可解释性以及原因分析。最后，作者揭示了基于深度分离卷积的网络架构(如MobileNet)隐式的依赖于跨核相关性；而所提BSConv则基于核内相关性，故可以为常规卷积提供一种更有效的拆分。

作者通过充分的实验(大尺度分类与细粒度分类)验证了所提BSConv可以明显的提升MobileNet以及其他基于深度分离卷积的架构的性能，而不会引入额外的复杂度。对于细粒度问题，所提方法取得13.7%的性能提升；在ImageNet分类任务，BSConv在ResNet的“即插即用”取得了9.5%的性能提升。