RuntimeError: Cannot re-initialize CUDA in forked subprocess解决方法之一

最新推荐文章于 2024-08-12 23:18:14 发布

不再更新，请勿购买！！

最新推荐文章于 2024-08-12 23:18:14 发布

阅读量2.6w

点赞数 12

分类专栏： # Code 文章标签： pytorch CUDA subprocess

本文链接：https://blog.youkuaiyun.com/qazwsxrx/article/details/116806358

版权

Code 专栏收录该内容

91 篇文章

订阅专栏

本文介绍了如何在程序开头设置'torch.multiprocessing.set_start_method('spawn')'来避免多进程问题，通过链接提供详细解释和实例，适用于Python开发者。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在程序最开始的地方加上：

torch.multiprocessing.set_start_method(‘spawn’)

即可解决，如下第二行所示：

if __name__=='__main__':
    torch.multiprocessing.set_start_method('spawn')
    args = config_parser().parse_args()
    data_loader = CreateDataLoader(args)
    train()

其他详细的解释和解决方法：

https://www.pythonheidong.com/blog/article/505157/8b5b28765cba2958ac02/
https://www.pythonf.cn/read/65459

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

不再更新，请勿购买！！

关注关注

12
点赞
踩
30

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

关于RuntimeError: Cannot re-initialize CUDA in forked subprocess和CUDA error: initialization error的解决

狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs

09-27

2892

最近小虎在cpu上试跑了detection任务的程序没什么问题，但是在gpu上运行时发生了关于cuda的一些报错，发现解决问题的精华就一句话。下面给出问题解决的例子和代码。

Cannot re-initialize CUDA in forked subprocess.

无左无右的博客

01-09

689

"Cannot re-initialize CUDA in forked subprocess. " + msg) RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method anconda...

2 条评论您还未登录，请先登录后发表或查看评论

cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the ‘sp

weixin_39663060的博客

10-17

3210

cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the 'spawn' start method.

完美解决pytorch多线程问题：Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing

热门推荐

slamdunkofkd的博客

08-13

1万+

在pytorch，dataloader里设置了num_workers > 1的时候, 会出现这个错误。一般网上https://blog.csdn.net/qazwsxrx/article/details/116806358解决方法，加上一行设定。然而，我这里如果加上这行代码，会导致代码卡死在dataloader里面。后面发现，代码里面设定了这样的几行。 if cuda: torch.set_default_tensor_type('torch.cuda.FloatTen.

多进程的子进程cuda使用报错: Cannot re-initialize CUDA in forked subprocess

qq_43199876的博客

12-13

1万+

这个错误表明在使用CUDA时，你的代码在一个使用fork启动方法的多进程环境中，而CUDA不支持在fork的子进程中重新初始化。为了解决这个问题，你可以将多进程的启动方法改为使用spawn，这样就可以在子进程中重新初始化CUDA。在Python中，你可以使用multiprocessing模块中的Manager对象来共享资源，或者使用Pool对象来处理进程池中的任务。如果你仍然遇到问题，可能需要考虑其他方法，例如在主进程中初始化CUDA，并将相应的资源传递给子进程，以避免CUDA的重新初始化问题。

RuntimeError: Cannot re-initialize CUDA in forked subprocess.

u013409979的博客

05-07

2869

分析：multiprocessing启动方式有误。2、直接设置num_workers=0。

Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决

最新发布

zwhszdx的博客

08-12

2264

使用FastChat框架中的vllm_work部署DeepSeek-Coder-V2时遇到Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决

RuntimeError: Cannot re-initialize CUDA in forked subprocess

zhuoshengda的博客

03-15

541

CUDA出错的情况

RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you

福尔摩斯帅双的博客

03-30

1952

报错如下: Traceback (most recent call last): File “E2Capsnet.py”, line 777, in main() File “E2Capsnet.py”, line 619, in main train(epoch) File “E2Capsnet.py”, line 470, in train for batch_id, (data, label) in enumerate(raf.train_loader): File “/home/nuaa301/a

RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method

08-30

当您在使用CUDA进行多进程编程时，如果出现"RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method"的错误提示，这是因为在...

cannot re-initialize CUDA in forked subprocess

08-23

在使用Python中的multiprocessing模块调用torch模型时，如果使用了fork创建子进程，就会报错"RuntimeError: Cannot re-initialize CUDA in forked subprocess"。这是因为在子进程中无法重新初始化CUDA。解决这个问题...

cannot re-initialize CUDA in forked subproess

chumingqian的博客

04-02

2048

该问题描述了pytorch 中使用cuda 初始化时，　与DataLoader中使用num_worker 多进程，　这两者之间发生了冲突，根据错误提示，　在DataLoader 中使用该参数，并设置为spawn，　由于平时创建时，使用fork 创建的是子线程，　所以没有注意。

pythonRuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing

ResumeProject的博客

06-24

6436

fork spawn

RuntimeError: Cannot re-initialize CUDA in forked subprocess. 一个奇怪bug的奇妙解决方法

YnullW的博客

09-17

728

最后解决的方法也很神奇：原因是我的输入数据是以Tensor形式存储的，于是在读取的时候，不知道为什么导致了读取失败，并引发了多线程创建失败，最终报了这个错误。在将Tensor形式存储的训练数据改为array形式后，便一切正常了。原本代码是可以正常运行的，但是我改了输入之后就出现这个bug。

Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you

m0_52280920的博客

01-12

1972

当然，在定义dataset，方法__getitem__ 里把张量放到device里也会产生同样的错误。但是gpu会卡住不运行数据加载。