MobileNet v1 结构详解

MobileNet v1主要提出的是深度可分离卷积，卷积计算时间可缩短8~9倍。
论文参考链接

正常的卷积是这样的，
输入Feature map, 记作F， size为Df x Df x M, Df是长和宽，M是channel
然后卷积核是Kernel, 记作K，size为Dk x Dk x M x N
解释一下，这里的Dk x Dk x M 和 F 是相同的channel
卷出来的长和宽是(Df / Dk + 1), channel是1，
然后纵向有N个这样的叠加，所以最终output的size为 Dg x Dg x N

现在把K中一个的size从Dk x Dk x M 改为 Dk x Dk x 1
那么F 的一个channel 和 Dk x Dk x 1大小的卷积核 卷积以后得到 Dg x Dg x 1的output
一共M 个channel, 所以需要M个Dk x Dk x 1的卷积核

这就是depthwise卷积，F 和 M个Dk x Dk x 1的卷积核 卷积得到 Dg x Dg x M的output

而最终需要得到Dg x Dg x N 的output,
所以再来个 1x1 卷积
Dg x Dg X M 和 它卷积 要得到 Dg x Dg x N,
所以1x1卷积核size为1x1xM, 叠加N个

整个过程如下图

也就是把原本的卷积核 Dk x Dk x M x N,
变为M个 Dk x Dk x 1 和 N个 1 x 1 x M

实际应用中 M 个 Dk x Dk x 1 只需要指定是depthwise卷积即可。

比如卷积核是conv(kernel: 5x5, channel:16, stride:2)
input channel为8
用深度可分离卷积之后为
dwconv(kernel:5x5, channel: 8, stride:2) 和 conv(kernel: 1x1, channel: 16, stride:1)
其中dwconv为depthwise conv

计算量：
普通卷积计算量为Dk * Dk * M * N * Df * Df
分解之后为
计算量会缩小：

在3x3卷积核的情况下，Dk = 3,
计算量会减少8~9倍