这一节再了解一个卷积的变种,叫作分组卷积,这部分了解即可。
1、 什么是分组卷积
网上有很多关于分组卷积的资料。我整理了下,其实分组卷积是将卷积在channel 维度分组来计算,以达到将一个大卷积分成多个小卷积的目的。
为了清晰,我将卷积操作简化为一次最简单的乘累加运算,channel维度只有2个数据,如下图。

正常的卷积操作,A 和B的乘累加,计算的是 1x3 + 2x4 = 11。
而如果将其在channel维度分组(例子中channel维度只有两个数据,我们就分成两组),那么会是这样

第一组只计算channel 维度的前半部分,第二组只计算channel维度的后半部分。分组卷积的过程就是这么简单,暴力的在channel维度分开,分别做卷积。
分组卷积是卷积神经网络的一种变种,通过将通道维度分组来减少计算和内存开销。它最初在2012年ImageNet竞赛中被提出,用于解决GPU资源有限的问题。分组卷积在数学上与原始卷积不等价,但通过channel维度的shuffle操作,可以实现更好的特征融合,保持模型性能。
订阅专栏 解锁全文
1580

被折叠的 条评论
为什么被折叠?



