论文链接:https://arxiv.org/abs/1707.01083
设计思想
卷积神经网络是现代视觉人工智能系统的核心组件。近年来关于卷积模型的研究层出不穷,产生了如 VGG、ResNet、Xception 和 ResNeXt 等性能优异的网络结构,在多个视觉任务上超过了人类水平。然而,这些成功的模型往往伴随着巨大的计算复杂度(数十亿次浮点操作,甚至更多)。这就限制了此类模型只能用于高性能的服务器集群,而对于很多移动端应用(通常最多容许数百万至数千万次浮点操作)则无能为力。
由于现代卷积神经网络的绝大多数计算量集中在卷积操作上,因此高效的卷积层设计是减少网络复杂度的关键。所以轻量级网络应运而生。旷视(Face++)研究院发表的ShuffleNet利用稀疏连接的设计理念,为其中的佼佼者。
作者通过分析已有的卷积模型,发现例如Xception 和 ResNeXt 模型中,逐点卷积的运算量相当可观,成为了新的瓶颈。因此,为了进一步提升模型的速度,就必须寻求更为高效的结构来取代逐点卷积。
创新点
(1) pointwise group convolutions (逐点群卷积):现有模型中,1x1卷积浪费很多的资源,成为运算的瓶颈,group卷积用来解决这个问题。降低计算复杂度<

ShuffleNet是一种针对移动端优化的卷积神经网络,通过pointwise group convolutions和channel shuffle解决计算复杂度问题。该网络设计减少了逐点卷积的运算量,提高运行速度,同时保持模型性能。实验表明ShuffleNet在计算效率和精度之间取得了良好平衡。
最低0.47元/天 解锁文章
1897

被折叠的 条评论
为什么被折叠?



