RuntimeError: Default process group has not been initialized, please make sure to call init_process_

原创已于 2023-08-15 17:27:10 修改

· 1.2w 阅读

14 ·

版权

文章标签：

#python #算法 #深度学习 #编程语言

于 2023-06-20 17:23:16 首次发布

在运行MMdetection的ConsistentTeacher模型时，若在验证阶段(val)遇到RuntimeError:Defaultprocessgrouphasnotbeeninitialized错误，可能是因为config中的evaluation使用了分布式DistEvalHook但未初始化。解决方案是在submodules_evaluation.py中添加dist.init_process_group的代码，可以使用gloo或nccl作为backend，根据情况设置init_method、world_size和rank。如果遇到卡死问题，可以尝试修改init_method和backend参数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题描述：单卡运行MMdetection ConsistentTeacher时，train正常但是val出现如下错误

RuntimeError: Default process group has not been initialized, please make sure to call init_process_group.

原因：config中的evaluation使用的是作者写的hook，继承了分布式DistEvalHook，需要手动初始化init_process_group

解决方法：在ssod/utils/hooks/submodules_evaluation.py中加入如下代码

dist.init_process_group('gloo', init_method='file:///tmp/somefile', rank=0, world_size=1)

如有问题，欢迎评论文明讨论

执行时如果出现卡死的情况，可以改为加入以下代码：

torch.distributed.init_process_group(backend='nccl',init_method='tcp://localhost:23456', world_size=1, rank=0)