轻量级网络--SqueezeNet、ShuffleNet_v2、MobileNet_v2

大网络虽然精度高，但是体积太大，不利于部署移动端。于是出现了一些性能好、精度高的轻量级网络。

一、SqueezeNet

SqueezeNet的特点就是先squeeze，再expand。
即先降低channel数量，再分两路扩大channel数量，最后进行concat拼接。
模型大小不到5M。
我将SqueezeNet作为base_network用到faster rcnn上，检测一下自己的任务，最终实现的mAP仅达到88.2%。(VGG(47M)，ResNet(68M)分别为90.7%、90.53%)。但胜在模型只有4.2M。

二、MobileNet_v2

首先说下v1：

v1的核心是对通道进行**group**操作，也称为**depth_wise**或 **channel_wise**。 所以caffe中实现，既可以用group，也可以自定义一个layer来实现。

先来看传统的conv是怎么操作的，传统的conv操作如下:

v1的操作则不同:

v1涉及到了group卷积。
g