RuntimeError: Address already in use

最新推荐文章于 2025-01-06 15:03:24 发布

Answerlzd

最新推荐文章于 2025-01-06 15:03:24 发布

阅读量7.9k

点赞数 4

分类专栏：常见报错 Linux 文章标签： pytorch

本文链接：https://blog.youkuaiyun.com/Answer3664/article/details/109283285

版权

Linux 同时被 2 个专栏收录

24 篇文章

订阅专栏

常见报错

11 篇文章

订阅专栏

本文介绍了解决PyTorch多GPU训练中出现的端口冲突问题的方法。可以通过终止原有进程或更改端口号来解决。具体操作是在代码中修改torch.distributed.init_process_group()函数的master_port参数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Pytorch用多张GPU训练时，会报地址已被占用的错误。其实是端口号冲突了。

因此解决方法要么kill原来的进程，要么修改端口号。

在代码里重新配置

torch.distributed.init_process_group()

    dist_init_method = 'tcp://{master_ip}:{master_port}'.format(master_ip='127.0.0.1', master_port='10000')
    dist_world_size = opt.world_size    #total number of distributed processes.
    torch.distributed.init_process_group(backend="nccl", init_method=dist_init_method, world_size=dist_world_size, rank=[0,1])

每次只要重新修改master_port