torchrun远程Debug

最新推荐文章于 2025-06-13 20:21:11 发布
最新推荐文章于 2025-06-13 20:21:11 发布
阅读量315 收藏 1
点赞数 2
CC 4.0 BY-SA版权
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/woshidayinxun/article/details/145108311

需求：使用pycharm远程连接训练服务器，debug torchrun分布式训练

步骤：

        1.软连接torchrun文件至工作区目录：

                ln -s /root/miniconda3/envs/chinease_llma_alpaca/bin/torchrun     工作区/torchrun

        2.同步远程 '工作区/torchrun' 至本地

                Tools -> Deploymet->Download

        3.配置远程python解释器

                 

        4.配置项目debug，选择'工作区/torchrun' 及对应参数即可

                

        5.开心食用吧！！！

vscode如何debug环境配置？torchrun与deepspeed库又该如何配置？
weixin_38252409的博客
10-24 1056
本文验证完成基于vscode对deepspeed进行debug方法。特别的，该方式不仅适合deepspeed命令debug，也适用torchrun命令debug，更能延伸其它命令debug模式。本文内容分为三部分，第一部分介绍如何使用vscode传递参数debug；第二部分介绍如何使用deepspeed进行debug；第三部分介绍vscode通用命令方式进行debug。大模型扩充内容！点击这里。
第二节 大模型的deepspeed使用vscode运行或调试debug的环境配置与解读(补充-vscode)
weixin_38252409的博客
12-14 2622
最近在研究deepspeed相关内容，但使用命令方式无法单步调式调用代码的问题，若直接离线看代码，在一定程度上降低效率。同时，使用deepspeed方式debug代码内容较少。为此，我特意在少有信息中和代码实验验证完成基于vscode对deepspeed进行debug方法。特别的，该方式不仅适合deepspeed命令debug，也适用torchrun命令debug，更能延伸其它命令debug模式。本文内容分为三部分，第一部分介绍如何使用vscode传递参数debug；
VSCode debug torchrun方式的多卡python代码
月亮不知道的博客
03-05 1588
【代码】VSCode debug torchrun方式的多卡python代码。
pycharm 远程连接服务器并且debug, 支持torch.distributed.launch debug
无左无右的博客
07-27 5166
未经允许，本文不得转载，vx：837007389。
单机多卡训练torchrun Debug记录
最新发布
m0_48580313的博客
06-13 581
刚开始gpu利用率拉满，但显存一直很低（是因为数据还没开始上传，还处于未通信成功的此状态），10min后报bug（通信的等待时间默认为10min）。运行之后，先gpu利用率提升，后显存上升，gpu利用率处于跳跃数值，成功开始单机多卡训练。可能是CUDA_VISIBLE_DEVICES变量未设置或未生效。单机多卡训练的任务提交过程遇到很多问题，记录一下。尝试以下代码：（CUDA_VISIBLE_DEVICES设为要使用的gpu索引）首先通过以下代码确认当前cuda是否可用，可用的GPU数量。
torchrun如何在Pycharm远程调试
Chrisluo123的博客
08-22 1790
这个项目的时候提到了torchrun，但是因为本人日常习惯在Pycharm debug，并且是远程连接服务器，搜遍了全网没有找到如何在torchrun这种分布式训练下debug··· 又因为我尝试了网上大部分torch.distributed.launch 如何调试的帖子，都没有用。这段的意思是说需要使用torchrun多GPU的方式启动运行inference.py，torchrun和inference.py后面紧接着是分别是这两个需要指定的参数。首先，你需要连接服务器，这个就不赘述了。
如何在pycharm中运行/调试torch分布式训练
carolynlmk的博客
09-21 2646
如何在pycharm中运行/调试torch分布式训练
在pycharm、clion中运行/调试torch分布式训练
VV Little Future
05-09 982
在很多深度学习研究中，都会进行分布式训练，其一般会使用shell脚本启动训练；但在调试时，用shell脚本就显的不是太方便。而使用IDE调试则会方便很多，可以加快撸代码和bug分析解决的速度。所以两者结合，怎么用IDE进行分布式调试，是大多数AI工程师的一个小需求。其主要难点在于不知道shell脚本中的命令如何配置到IDE中。下面本博文以pytorch框架和Clion为例，来进行配置演示，此处IDE换成PyCharm也基本是一样的配置。
vscode如何debug transformers源码(torchrun形式）
u013250861的博客
12-26 869
nlp开发利器——vscode如何debug transformers源码(torchrun形式）_哔哩哔哩_bilibilihttps://github.com/yuanzhoulvpi2017/vscode_debug_transformers
torchrun如何在VSCode上调试
ph12345687的博客
02-26 7363
torchrun的debug
vscode调试torch.distributed.launch
芒果干的博客
01-04 8617
在PyTorch中，如果我们要运行一个分布式的程序会用到以下命令 python -m torch.distributed.launch --nproc_per_node 8 train.py 但是如果我们想调试的时候如果使用命令行调试就会很麻烦，这里我们需要用到vscode的launch.json调试方法，首先我们打开vscode，看一下文件目录下有没有.vscode目录，如果有看一下里面有没有launch.json文件，如果没有我们需要新建一下，如下所示，依次点击 然后选择相应的python调试文件即
vscode-main+deepspeed进行debug+vscode配置deepspeed环境debug代码
12-14
特别的，该方式不仅适合deepspeed命令debug，也适用torchrun命令debug，更能延伸其它命令debug模式。本文内容分为三部分，第一部分介绍如何使用vscode传递参数debug；第二部分介绍如何使用deepspeed进行debug；第三...
vscode torchrun debug
03-18
"name": "Debug TorchRun (Multi-GPU)", "configurations": ["Python: Attach to Process"] } ] } ``` 上述配置定义了一个用于连接至远程调试端口的基础模板[^1]。 2. **修改代码以启用远程调试模式** 在 ...
vscode | python | remote-SSH | Debug 配置 | CLIP4Clip复现、实验记录
Mike峰
12-22 1108
挨个语句调试之后发现出现在某个加载模型的地方，模型的位置防止错误了，远程调试真的好用，可以清晰看到过程的调用栈call stack。之后出现一个问题就是目前引用env变量在命令行中显示为空，目前不能用这个方式引用所以还得用笨方法，就是挨个复制粘贴。之后就要run->add configuration->本地安装Remote-SSH、python。远程服务器上安装Python。
关于集群分布式torchrun命令踩坑记录（自用）
热门推荐
Komach的博客
05-19 3万+
在训练或者微调模型的过程中，单节点的显存溢出，或者单节点的显卡较少，算力有限。需要跨节点用多个节点多块显卡来运行这项任务。这里就需要使用分布式命令，将这项任务分布到多个节点上来处理。
本地如何使用Pycharm连接远程服务器调试torchrun
qq_44608327的博客
10-16 478
本地如何使用Pycharm连接远程服务器调试torchrun
关于使用pycharm搭建torch时候遇到的bug记录
糕糕的博客
09-12 376
上次torch报错DLL not found，好像是更新了pycharm自动修好的，还有一次是pip uninstall numpy ,conda uninstall numpy 重装numpy解决的，具体细节没有记录下来所以很后悔 torch虚拟环境导入charm时候DLL not found（具体是numpy里面的一个组件找不到，但是命令行以及jupyter notebook是可以正常调用torch虚拟环境并且没有任何异常的） 还好昨天晚上记录下来解决方法了，今天早上又崩了????，但是确实不是什
在 VS Code 中将 torchrun 指令加入调试配置debug, 同时设置--nnodes和--data-path. 原创
weixin_44506963的博客
11-08 1250
gpt给的答案是launch.json嵌套tasks.json ("preLaunchTask" = tasks.json名 )，让task.json运行torchrun --nnodes 1 --nproc_per_node 2，launch.json负责args（eg --data_path = /data）的部分。这样是不可以的，debug会先运行tasks.json,再运行launch.json，不能同时运行两个指令。今天配好vscode了，记录一下。点vscode右上角，选择。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值