深度学习入门笔记之ShuffleNet

原创

已于 2022-03-07 14:45:27 修改 · 3.9k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #网络 #计算机视觉

于 2022-03-07 14:33:56 首次发布

本文概述了ShuffleNetV1的GroupConvolution和ChannelShuffle优化，以及ShuffleNetV2对网络复杂度的新思考。V2结构强调效率和容量，通过ChannelSplit和避免元素级操作提供高效设计指南。对比实验显示ShuffleNetV2在精度与速度上的优势。

论文名：ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices
论文地址：https://arxiv.org/abs/1707.01083v1
CVPR：2017
论文名：ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design
论文地址：https://arxiv.org/abs/1807.11164
会议：ECCV2018

ShuffleNet V1

ShuffleNet V1的亮点

Group Convolution
这算是整个ShuffleNet的优化核心，Group Convolution操作早在AlexNet的时候就被拿来进行速度的优化了，其运算的过程可以参考这里，简单的说就是对一个输入通道为N的特征图进行的卷积操作拆分为对g个通道为N/g的特征图进行卷积，这样的方法在速度和参数上都会有大幅的提升。下表以卷积核为 $D_{K} × D_{K}$ ，特征图大小为 $D_{F} × D_{F}$ ，输入通道数为N，输出通道数为M，简单的说明一下速度和参数的提升：