一、简介
论文地址:https://arxiv.org/pdf/2211.06088
源代码地址:https://github.com/ChengpengChen/RepGhost
二、原理解析
特征重用一直是轻量级卷积神经网络(CNN)架构设计的关键技术。目前的方法通常利用连接运算符,通过重复使用其他层的特征图,以低成本保持大通道数(从而提高网络容量)。虽然连接运算不需要参数和 FLOPs,但其在硬件设备上的计算成本却不容忽视。为了解决这个问题,本文提供了一个新的视角,以隐含的方式更高效地实现特征重用,而不是连接。本文提出了一种新型硬件高效 RepGhost 模块,通过重新参数化实现隐式特征重用,而不是使用连接算子。基于 RepGhost 模块&#