（精读论文）MobileNet v1

论文地址：https://arxiv.org/pdf/1704.04861.pdf

一、精读论文

论文题目

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

论文作者

Andrew G. Howard、Menglong Zhu、Bo Chen、Dmitry Kalenichenko、Weijun Wang、Tobias Weyand、Marco Andreetto

刊物名称

IEEE Conference on Computer Vision and Pattern Recognition (CVPR)
IEEE计算机视觉与模式识别会议（CVPR）

出版日期

2017年4月17日

摘要

本文提出了一种轻量化的卷积神经网络MobileNet，该网络使用深度可分离卷积来减少计算量和参数数量，从而能够在移动设备上高效地运行。MobileNet的设计考虑了移动设备的硬件限制，可以在保持良好准确率的同时，大幅减少计算和存储资源的使用。实验结果表明，MobileNet在图像分类和目标检测等任务上，可以与传统的卷积神经网络相媲美，但速度更快，而且具有更小的模型尺寸和更少的计算量。

关键词

轻量化卷积神经网络、深度可分离卷积、移动设备、图像分类、目标检测。

总结

本文提出了一种新型的轻量化卷积神经网络MobileNet，该网络采用深度可分离卷积来减少计算量和参数数量，从而在移动设备上实现了高效的图像分类和目标检测。MobileNet的设计充分考虑了移动设备的硬件限制，可以在保持较高的准确率的同时，大幅减少计算和存储资源的使用。实验结果表明，MobileNet在速度和模型尺寸等方面均优于传统的卷积神经网络，具有更广泛的应用前景。

二、研读论文

1、针对问题与解决方法

问题： 传统的卷积神经网络在移动设备上运行时，计算和存储资源的使用较高，导致速度缓慢、模型尺寸大、耗电量高，不适合实际应用。

解决方法： 本文提出了一种轻量化的卷积神经网络MobileNet，该网络使用深度可分离卷积来减少计算量和参数数量，从而能够在移动设备上高效地运行。MobileNet的设计考虑了移动设备的硬件限制，可以在保持良好准确率的同时，大幅减少计算和存储资源的使用。
MobileNet采用了两个关键技术： 深度可分离卷积和宽度乘法。深度可分离卷积将标准卷积拆分为深度卷积和逐点卷积两个步骤，从而减少计算量和参数数量。宽度乘法则控制了每个层的通道数，以进一步减少计算量。实验结果表明，MobileNet在图像分类和目标检测等任务上，可以与传统的卷积神经网络相媲美，但速度更快，而且具有更小的模型尺寸和更少的计算量。
MobileNet v1网络架构：

• 卷积层包括常规卷积、深度卷积和逐点卷积(深度可分离卷积)，不包括平均池化层和Softmax层共有28层
• 步长为2的卷积，在卷积的同时起到下采样的功能
• 最后一层为全连接层，不使用激活函数
• 其中每一种卷积都伴随批归一化和激活函数，如图
  

2、数据实验与结论分析

数据实验： 本文在多个数据集上对MobileNet进行了实验，包括ImageNet、PASCAL VOC 2007和COCO。在ImageNet上，MobileNet相比于其他轻量级卷积神经网络，如SqueezeNet、ShuffleNet和MobileNets-Caffe，具有更高的准确率和更快的推理速度。在PASCAL VOC 2007数据集上，MobileNet的目标检测精度也与其他经典的卷积神经网络相当。在COCO数据集上，MobileNet在SSD目标检测模型中的准确率也与其他经典卷积神经网络相当。综合来看，MobileNet在相同性能下具有更小的模型尺寸和更少的计算量。

结论分析： MobileNet是一种轻量化的卷积神经网络，使用深度可分离卷积和宽度乘法来减少计算和参数数量，从而在移动设备上实现了高效的图像分类和目标检测。实验结果表明，MobileNet在速度和模型尺寸等方面均优于传统的卷积神经网络，具有更广泛的应用前景。MobileNet的提出为移动设备上的深度学习应用提供了一种新的解决方案。但是，MobileNet在一些复杂的任务上可能无法达到传统卷积神经网络的准确率，因此需要根据具体应用需求进行选择。

3、科研启发与积累工作

科研启发：

1. 轻量化的卷积神经网络MobileNet，该网络使用深度可分离卷积和宽度乘法来减少计算和参数数量，从而在移动设备上实现了高效的图像分类和目标检测。这为移动端应用深度学习提供了一种新的解决方案。
2. MobileNet在速度和模型尺寸等方面均优于传统的卷积神经网络，具有更广泛的应用前景。这也说明，针对具体应用场景，设计轻量化的卷积神经网络是十分必要的。
3. 本文的设计思路和结构可以为后续的轻量化卷积神经网络设计提供借鉴和参考。同时，本文提出的深度可分离卷积和宽度乘法等技术也可以应用于其他领域，如移动机器人、智能交通等。
4. 本文的研究方法和实验设计也为深度学习领域的实证研究提供了思路和方法。在实验中，本文使用了多个数据集进行测试，通过对比不同模型的准确率、速度和模型尺寸等指标，证明了MobileNet的优势。这种实证研究方法可以为其他深度学习研究提供参考。

积累工作：

暂无

参考博文

轻量化网络
网络模型加速——轻量化网络
终端移植