模型推理FPS计算

原创

已于 2022-05-30 22:08:57 修改 · 4.7k 阅读

29 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #pytorch #神经网络 #FPS

于 2022-05-30 22:07:00 首次发布

本文探讨了在模型性能比较中，除了指标提升外，模型效率和速度的重要性。通过计算推理速度（FPS）来衡量模型的运行效率，作者提供了一段代码示例，用于测量和平均推理每张图片所需的时间。该方法排除了数据加载和计算指标的耗时，重点关注模型的前向传播过程。

文章目录

场景
思路

场景

很多模型的性能比较，不只是指标的提升，还需要考虑模型的效率、速度；
计算模型的推理速度FPS是一项重要的指标，记录如下：

 # the first several iterations may be very slow so skip them
    parser.add_argument(
        '--max-iter', type=int, default=2000, help='num of max iter')
    parser.add_argument(
        '--log-interval', type=int, default=50, help='interval of logging')
    num_warmup = 5
    pure_inf_time