Cannot re-initialize CUDA in forked subprocess.

已于 2024-12-09 11:06:05 修改
阅读量452 收藏
点赞数 1
文章标签： 深度学习 人工智能
于 2024-12-09 11:00:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_36955294/article/details/144341229
版权

1. RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method

ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: 1) local_rank: 0 (pid: 37434) of binary: /home/lvying/anaconda3/envs/LVravs_py310_tr113/bin/python
2. RuntimeError: context has already been set

明泽.
关注
关于RuntimeError: Cannot re-initialize CUDA in forked subprocess和CUDA error: initialization error的解决
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
09-27 2902
最近小虎在cpu上试跑了detection任务的程序没什么问题，但是在gpu上运行时发生了关于cuda的一些报错，发现解决问题的精华就一句话。下面给出问题解决的例子和代码。
RuntimeError: Cannot re-initialize CUDA in forked subprocess.
u013409979的博客
05-07 2886
分析：multiprocessing启动方式有误。2、直接设置num_workers=0。
多进程的子进程cuda使用报错: Cannot re-initialize CUDA in forked subprocess
qq_43199876的博客
12-13 1万+
这个错误表明在使用CUDA时，你的代码在一个使用fork启动方法的多进程环境中，而CUDA不支持在fork的子进程中重新初始化。为了解决这个问题，你可以将多进程的启动方法改为使用spawn，这样就可以在子进程中重新初始化CUDA。在Python中，你可以使用multiprocessing模块中的Manager对象来共享资源，或者使用Pool对象来处理进程池中的任务。如果你仍然遇到问题，可能需要考虑其他方法，例如在主进程中初始化CUDA，并将相应的资源传递给子进程，以避免CUDA的重新初始化问题。
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the ‘sp
weixin_39663060的博客
10-17 3220
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the 'spawn' start method.
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
m0_55764111的博客
07-02 1113
如果直接下面的解决方式，虽然不会报上面的错，但是显卡会不够用，明明之前是可以跑的。还有一种解决方式是在读取数据的时候将num_workers设置为0。之前可以跑的代码，隔了一天运行突然报这个错误。
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
zwhszdx的博客
08-12 2347
使用FastChat框架中的vllm_work部署DeepSeek-Coder-V2时遇到Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
RuntimeError: Cannot re-initialize CUDA in forked subprocess解决方法之一
热门推荐
NLOS的博客
05-14 2万+
在程序最开始的地方加上： torch.multiprocessing.set_start_method(‘spawn’) 即可解决，如下第二行所示： if __name__=='__main__': torch.multiprocessing.set_start_method('spawn') args = config_parser().parse_args() data_loader = CreateDataLoader(args) train() 其他详细的解释和
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
最新发布
04-03
综上所述，要防止出现 “Cannot re-initialize CUDA in forked subprocess.” 的异常情况，最直接有效的办法就是改变默认使用的进程创建机制至支持更好隔离特性的选项如 `'spawn'` ，或者干脆停用那些可能会间接触发...
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method
08-30
当您在使用CUDA进行多进程编程时，如果出现"RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method"的错误提示，这是因为在...
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
m0_52280920的博客
01-12 1999
当然，在定义dataset，方法__getitem__ 里把张量放到device里也会产生同样的错误。但是gpu会卡住不运行数据加载。
RuntimeError: Cannot re-initialize CUDA in forked subprocess. 一个奇怪bug的奇妙解决方法
YnullW的博客
09-17 734
最后解决的方法也很神奇：原因是我的输入数据是以Tensor形式存储的，于是在读取的时候，不知道为什么导致了读取失败，并引发了多线程创建失败，最终报了这个错误。在将Tensor形式存储的训练数据改为array形式后，便一切正常了。原本代码是可以正常运行的，但是我改了输入之后就出现这个bug。
pythonRuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
ResumeProject的博客
06-24 6447
fork spawn
RuntimeError: Cannot re-initialize CUDA in forked subprocess
zhuoshengda的博客
03-15 543
CUDA出错的情况
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值