pythonRuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing

原创 已于 2022-06-24 18:00:35 修改 · 6.5k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #开发语言

于 2022-06-24 18:00:12 首次发布
当在Python中使用CUDA并遇到'RuntimeError: Cannot re-initialize CUDA in forked subprocess'时，问题在于不支持在forked子进程中初始化CUDA。解决方法是在多进程设置中切换到'spawn'启动方法。确保在`if __name__ == '__main__':`块内调用`torch.multiprocessing.set_start_method('spawn')`来修复此问题。
部署运行你感兴趣的模型镜像

RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the ‘spawn’ start method

  • fork和spawn是构建子进程的不同方式:
forkspawn
分叉产卵
继承非继承
从头构建一个子进程，父进程的数据拷贝到子进程的空间中，拥有自己的Python解释器
变量具有与父进程中相同的id
N在每个子进程开始时导入模块
子进程获取在 name == main 块中定义的变量N

解决方案

if __name__=='__main__':
    torch.multiprocessing.set_start_method('spawn')

参考与更多

您可能感兴趣的与本文相关的镜像

Python3.11

Python3.11

Conda
Python

Python 是一种高级、解释型、通用的编程语言，以其简洁易读的语法而闻名，适用于广泛的应用，包括Web开发、数据分析、人工智能和自动化脚本

RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
福尔摩斯帅双的博客
03-30 2075
报错如下: Traceback (most recent call last): File “E2Capsnet.py”, line 777, in main() File “E2Capsnet.py”, line 619, in main train(epoch) File “E2Capsnet.py”, line 470, in train for batch_id, (data, label) in enumerate(raf.train_loader): File “/home/nuaa301/a
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
zwhszdx的博客
08-12 3013
使用FastChat框架中的vllm_work部署DeepSeek-Coder-V2时遇到Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
Cannot re-initialize CUDA in forked subprocess.
无左无右的博客
01-09 760
"Cannot re-initialize CUDA in forked subprocess. " + msg) RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method anconda...
RuntimeError: Cannot re-initialize CUDA in forked subprocess.
u013409979的博客
05-07 3307
分析：multiprocessing启动方式有误。2、直接设置num_workers=0。
多进程的子进程cuda使用报错: Cannot re-initialize CUDA in forked subprocess
qq_43199876的博客
12-13 1万+
这个错误表明在使用CUDA时，你的代码在一个使用fork启动方法的多进程环境中，而CUDA不支持在fork的子进程中重新初始化。为了解决这个问题，你可以将多进程的启动方法改为使用spawn，这样就可以在子进程中重新初始化CUDA。在Python中，你可以使用multiprocessing模块中的Manager对象来共享资源，或者使用Pool对象来处理进程池中的任务。如果你仍然遇到问题，可能需要考虑其他方法，例如在主进程中初始化CUDA，并将相应的资源传递给子进程，以避免CUDA的重新初始化问题。
解决Cannot re-initialize CUDA in forked subprocess，实现cuda多进程任务
方温热的博客
03-22 767
现在遇到一个需求，当我训练好一个神经网络，需要将推理的结果保存在本地，那么一个一个有点浪费时间，如果推理一个batch，然后对这一个batch使用多线程同时保存到本地，那岂不是快的飞起！说干就干，我加载进程池，运行函数，还没怎么高兴，不出意外的出现了意外。但是processes不易设置过大，根据自己性能进行设置。多进程可以加速任务的进行。不牵扯cuda的多进程可以使用。使用，具体的网上很多了就不再一一介绍。接着就正常使用pool的api，
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method
08-30
当您在使用CUDA进行多进程编程时，如果出现"RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method"的错误提示，这是因为在...
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
m0_52280920的博客
01-12 2397
当然，在定义dataset，方法__getitem__ 里把张量放到device里也会产生同样的错误。但是gpu会卡住不运行数据加载。
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the ‘sp
weixin_39663060的博客
10-17 3348
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the 'spawn' start method.
关于RuntimeError: Cannot re-initialize CUDA in forked subprocess和CUDA error: initialization error的解决
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
09-27 3091
最近小虎在cpu上试跑了detection任务的程序没什么问题，但是在gpu上运行时发生了关于cuda的一些报错，发现解决问题的精华就一句话。下面给出问题解决的例子和代码。
RuntimeError: Cannot re-initialize CUDA in forked subprocess
zhuoshengda的博客
03-15 572
CUDA出错的情况
完美解决pytorch多线程问题：Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
热门推荐
slamdunkofkd的博客
08-13 1万+
在pytorch，dataloader里设置了num_workers > 1的时候, 会出现这个错误。 一般网上https://blog.csdn.net/qazwsxrx/article/details/116806358解决方法，加上一行设定。 然而，我这里如果加上这行代码，会导致代码卡死在dataloader里面。 后面发现，代码里面设定了这样的几行。 if cuda: torch.set_default_tensor_type('torch.cuda.FloatTen.
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
最新发布
weixin_66009678的博客
12-15 540
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值