ShuffleNet:An Extremely Efficient Convolutional Neural Network for Mobile Devices
ShuffleNet:适用于移动设备的及其高效的卷积神经网络
论文下载:https://arxiv.org/pdf/1707.01083.pdf
前期知识储备:标准卷积、分组卷积、ResNet
学习目标:掌握分组卷积的过程以及体会其优势,掌握通道重排方式,了解ShuffleNet v2版本创新点以及性能比较,pytorch代码复现ShuffleNet
论文的研究背景、成果及意义
动机:
- 建立更深、更大的卷积神经网络CNN是解决视觉识别任务的主要趋势。但通常具有数百个层和数千个通道,因此需要极大算力消耗。
- 无人机,机器人和智能手机等常见的移动平台需要在非常有限的算力支撑下尽可能的提升准确率。
现有方法:
- 模型压缩
- 直接训练小型网络
本文方法:
- 针对计算能力非常有限的移动设备,设计引入计算效率极高的CNN架构ShuffleNet。
- 通过以下两点创新,在保持精度的同时大大降低了计算成本。
分组点卷积
通道重排
研究成果
ImageNet数据集上错误率比VGG-16低,并且复杂度大大缩减。
与AlexNet相比与运算速度大大提升。
与MobileNets相比1:mAP指标相比
与MobileNets相比2:在分类任务上
ShuffleNet意义
论文泛读
- 摘要
- Introduction
- Related Work
- MobileNet Architecture
- Experiments
摘要
摘要部分主要就是三部分构成:介绍本文提出的新模型+该模型的创新点+该模型应用于数据集的效果如何。