ShuffleNet详解
论文《ShuffleNet:An Extremely Efficient Convolutional Neural Network for Mobile Devices》
1 主要思想
轻量级CNN网络近年备受关注,与传统的高准确度但较为复杂的CNN,轻量级网络受限实际任务中计算资源的限制,重点关注模型复杂度和准确度的权衡。
已存在一些SOTA的轻量级模型,如Xception、ResNeXt等,但在这些网络中的pointwise convolutions(1*1 conv)计算开销仍然较大。
文章提出了pointwise group convolutions,通过对pointwise convolutions进行分组,可以很大程度的降低其计算开销。除此之外,文章还提出了channel shuffle的操作来解决分组带来的副作用。最后,文章基于pointwise group convolutions和channel shuffle构建了ShuffleNet。
2 模型结构
2.1 pointwise group convolutions
近年提出的Depthwise sparable convolutions很大程度上减少了CNN网络的计算开销,但网络中的pointwise convolutions仍然开销很大。
利用分组卷积的思想,文章将pointwise convolutions进行分组,进一步减少CNN网络的计算开销。
对于pointwise convolutions,假设输入尺寸为H*H*C1,输出尺寸为H*H*C2,此时卷积计算量为H*H*C1*C2;此时对输入进
深度解析:ShuffleNet - 轻量级CNN网络设计

本文详细介绍了ShuffleNet的设计理念与结构,包括pointwise group convolutions以降低计算开销,channel shuffle解决信息隔离问题,以及整个ShuffleNet模型的构建。实验表明,ShuffleNet在保证模型性能的同时,显著降低了计算成本。
最低0.47元/天 解锁文章
1774

被折叠的 条评论
为什么被折叠?



