Group Convolution分组卷积
最早见于AlexNet——2012年Imagenet的冠军方法,Group Convolution被用来切分网络,使其在2个GPU上并行运行,AlexNet网络结构如下:

Group Convolution 原理
如果输入feature map尺寸为C∗H∗WC*H*WC∗H∗W,卷积核有N个,输出feature map与卷积核的数量相同也是N,每个卷积核的尺寸为C∗K∗KC*K*KC∗K∗K,N个卷积核的总参数量为N∗C∗K∗KN*C*K*KN∗C∗K∗K。如下图所示,传统卷积方法和分组卷积方法。

Group Convolution,则是对输入feature map进行分组,然后每组分别卷积。其实也就是,原本应该是C∗H∗WC*H*WC∗H∗W 的图片,用N个传统的卷积核C∗K∗KC*K*K

本文详细介绍了GroupConvolution(分组卷积),一种用于减少神经网络参数量的技术,最早出现在2012年的AlexNet中。分组卷积通过将输入特征图分组,并在各组内独立进行卷积操作,有效减少了计算资源的需求,同时在某些情况下还能提高模型的性能。
最低0.47元/天 解锁文章
2831

被折叠的 条评论
为什么被折叠?



