MMSegmentation测试阶段推理速度非常慢的一种可能原因

问题背景

测试集约1000张图片。训练阶段在测试集上推理时，速度正常，推理速度约为30fps；而使用tools/test.py进行推理时，速度非常慢，推理速度不到0.1fps。

解决方案

检查配置文件中是否启用了visualizer，类似如下内容：

visualizer = dict(
    name='visualizer',
    save_dir=log_dir,
    type='SegLocalVisualizer',
    vis_backends=[
        dict(type='TensorboardVisBackend'),
        dict(type='LocalVisBackend'),
    ])

如果有，将其(暂时)删除，推理速度便可以恢复正常。

原理分析

visualizer会在测试阶段导出可视化图到本地，而这一过程会非常慢。如果只需要获取预测结果本身，并不需要在预测结果的基础上进一步可视化，则应该将visualizer关闭。