Pycharm运行Pytorch分布式代码的设置

最新推荐文章于 2025-05-20 22:43:15 发布

原创最新推荐文章于 2025-05-20 22:43:15 发布 · 2.1k 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#Pycharm #Pytorch #分布式

Python库同时被 3 个专栏收录

56 篇文章

订阅专栏

工具

37 篇文章

订阅专栏

项目部署

15 篇文章

订阅专栏

本文介绍了如何在PyCharm中调试PyTorch分布式训练代码，包括设置软链接、配置EditConfigurations参数，并提供了详细步骤。适合开发者在本地环境便捷地进行分布式训练项目调试。

部署运行你感兴趣的模型镜像

Pytorch分布式代码的训练一般在命令行下启动，或者shell脚本启动。

python3 -m torch.distributed.launch --nproc_per_node=8 --master_port=7129 train_PBAFN_stage1.py --name PBAFN_stage1   \
--resize_or_crop None --verbose --tf_log --batchSize 4 --num_gpus 8 --label_nc 14 --launcher pytorch

但代码调试不便，用Pycharm运行Pytorch分布式代码需要做一些参数设置。

设置软连接

ln -s /home/xxx/.local/lib/python3.5/site-packages/torch/distributed/ /mnt/disk2/xxx/work/PF-AFN/PF-AFN_train/

在这里插入图片描述

设置参数
pycharm中，编辑训练脚本train_PBAFN_stage1.py的Edit Configurations，脚本选择软连接的/mnt/disk2/xxx/work/PF-AFN/PF-AFN_train/distributed/launch.py，参数设置如下：

--nproc_per_node=2 --master_port=7129 /mnt/disk2/xxx/work/PF-AFN/PF-AFN_train/train_PBAFN_stage1.py --name PBAFN_stage1 --resize_or_crop None --verbose --tf_log --batchSize 4 --num_gpus 8 --label_nc 14 --launcher pytorch