轻量化网络之ShuffleNet

ShuffleNet:深度学习中的高效移动设备网络
ShuffleNet是一种专为移动设备设计的高效卷积神经网络,通过分组点卷积和通道重排减少计算成本,提高运行速度。在保持高精度的同时,与VGG-16和AlexNet相比,它显著减少了运算量和复杂度。此外,ShuffleNet v2的创新改进进一步优化了性能和速度。

ShuffleNet:An Extremely Efficient Convolutional Neural Network for Mobile Devices

ShuffleNet:适用于移动设备的及其高效的卷积神经网络

论文下载:https://arxiv.org/pdf/1707.01083.pdf

前期知识储备:标准卷积、分组卷积、ResNet

学习目标:掌握分组卷积的过程以及体会其优势,掌握通道重排方式,了解ShuffleNet v2版本创新点以及性能比较,pytorch代码复现ShuffleNet

论文的研究背景、成果及意义

动机:

  1. 建立更深、更大的卷积神经网络CNN是解决视觉识别任务的主要趋势。但通常具有数百个层和数千个通道,因此需要极大算力消耗。
  2. 无人机,机器人和智能手机等常见的移动平台需要在非常有限的算力支撑下尽可能的提升准确率。

现有方法:

  1. 模型压缩
  2. 直接训练小型网络

本文方法:

  1. 针对计算能力非常有限的移动设备,设计引入计算效率极高的CNN架构ShuffleNet。
  2. 通过以下两点创新,在保持精度的同时大大降低了计算成本。

分组点卷积

通道重排

研究成果

ImageNet数据集上错误率比VGG-16低,并且复杂度大大缩减。
ImageNet数据集
与AlexNet相比与运算速度大大提升。
与AlexNet相比

与MobileNets相比1:mAP指标相比
与MobileNets相比1
与MobileNets相比2:在分类任务上
与MobileNet相比2

ShuffleNet意义

在这里插入图片描述

论文泛读

  1. 摘要
  2. Introduction
  3. Related Work
  4. MobileNet Architecture
  5. Experiments

摘要

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值