CVPR 2019 Oral 论文解读 | 百度提出关于网络压缩和加速的新剪枝算法

最新推荐文章于 2023-04-11 23:26:29 发布

原创

最新推荐文章于 2023-04-11 23:26:29 发布 · 1k 阅读

6 ·

CC 4.0 BY-SA版权

文章标签：

#CVPR #论文解读 #百度

百度在CVPR 2019发表的Oral论文提出了一种新方法——FPGM，通过几何中心评估滤波器的重要性，解决了现有滤波器剪枝算法的局限性，实现神经网络的高效压缩和加速。实验结果显示，FPGM在ResNet-110和ResNet-101上显著减少了计算量，同时保持了相对较高的精度。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

雷锋网 AI 科技评论按：百度关于网络压缩和加速的论文《 Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration》被 CCF A 类学术会议 CVPR 2019 收录为 Oral 论文，这篇论文提出了新的基于滤波器的几何中心（geometric median）的剪枝算法，来对神经网络进行压缩和加速。本文是论文作者之一何洋为雷锋网 AI 科技评论提供的论文解读。

论文地址： https://arxiv.org/pdf/1811.00250.pdf

Github 地址： https://github.com/he-y/filter-pruning-geometric-median

1.背景

卷积神经网络(CNN)通常通过更深和更宽的结构实现了更好的性能，但是当神经网络需要部署到移动设备时，神经网络需要的资源远远超过了移动设备的限制。例如，ResNet-152拥有6020万个参数，需要231MB存储空间；此外，它还需要超过380MB的内存和11.3亿浮点运算（在CPU上耗时6秒钟）来处理单张图像。因此，我们需要找到高效率的模型来满足移动设备的需要。

网络剪枝是网络的压缩和加速中一个重要的方向，自1989年LeCun提出以来，得到了迅速发展。现在主要分为2种方向：1）权重剪枝；2）滤波器剪枝。滤波器剪枝相对于权重剪枝有一系列优点，包括它可以得到规则的模型，由此减少内存消耗，并且加速网络的推断。