报错AssertionError: Invalid device id

于 2022-09-23 21:16:25 发布
阅读量1k 收藏
点赞数
分类专栏： 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_43444314/article/details/127018164
版权
博客讨论了在使用PyTorch时遇到的问题，即代码在修改了`CUDA_VISIBLE_DEVICES`环境变量后，DataParallel模型并行出现异常。作者指出，正确设置该环境变量对于在多个GPU上运行分布式训练至关重要，同时提醒读者注意该设置可能与其他CUDA相关操作的兼容性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

明明之前代码好好的

model = torch.nn.DataParallel(model, device_ids=[0,1]).cuda()

原来是代码开始有个

os.environ["CUDA_VISIBLE_DEVICES"] = '0'
pytorch关于多块gpu使用总结，报错AssertionError: Invalid device id
kongkongqixi的博客
09-03 2万+
pytorch默认使用gpu编号为device:0的设备，可以使用 torch.nn.DataParallel(model, device_ids=[0, 1]) 对模型进行制定gpu指定编号多gpu训练，必须要有编号为device:0的gpu，不然会报AssertionError: Invalid device id错误； 当gpu编号为device:0的设备被占用时，指定其他编号gpu...
AssertionError: Invalid device id
yeeanna的博客
10-27 2637
在执行如下代码: self.Model = torch.nn.DataParallel(self.Model.cuda(L.ids[0]), device_ids=L.ids) 出现这个错误: AssertionError: Invalid device id debud之后发现原因在于GPU只有一个’0’,而代码中L的id有’0’,'1’两块卡,于是把L.id改成只有0,解决问题. ...
解决pytorch报错:AssertionError: Invalid device id的问题
09-18
今天小编就为大家分享一篇解决pytorch报错:AssertionError: Invalid device id的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
AssertionError: Invalid device id 和RuntimeError: CUDA error: invalid device ordinal
qq_41368074的博客
01-14 1万+
我在使用torch多卡并行时出现了这个两个问题。 ##问题一：AssertionError: Invalid device id，即无效的设备id 出现的原因：结合代码解释： import ... os.environ["CUDA_VISIBLE_DEVICES"] = "2,3" model = model(...) torch.cuda.set_device(2) model = torch.nn.DataParrel(model, device_ids=[2,3]) 错误原因：o
Pytorch训练问题：AssertionError: Invalid device id
weixin_44523603的博客
08-02 8693
在Linux中使用显卡训练网络时，一般会通过device id来确定使用的显卡。我们从GitHub上获取的源码中的device id和我们本地的device id肯定不一致，所以训练时一定要注意device id修改。 以下示例： 源码： model = nn.DataParallel( model.cuda(), device_ids=[0,1] 源码中使用了id为0和1 的显卡进行训练。 本地训练报错： AssertionError: In...
Invalid Device ID(解决方案).md
09-02
Invalid Device ID(解决方案).md
解决pytorch报错：AssertionError: Invalid device id
Lily's Blog
12-25 1万+
在服务器上训练的网络放到本地台式机进行infer，结果出现报错：   AssertionError: Invalid device id 仔细检查后发现原来服务器有多个GPU，当时开启了两个进行加速运算。 net1 = nn.DataParallel(net1, device_ids=[0, 1]) 而本地台式机只有一个GPU，调用数量超出所以报错。 改为 net1 = nn.Da...
pytorch多gpu多模型训练时报错AssertionError: Invalid device id
PanYHHH的博客
05-14 3722
初入pytorch，机器上有两块gpu，分别同时训练两个模型，分别添加了如下代码加以区分： os.environ["CUDA_VISIBLE_DEVICES"] = "0" os.environ["CUDA_VISIBLE_DEVICES"] = "1" 第一块gpu上的模型正常运行，但在第二块gpu上的模型运行时报错AssertionError: Invalid device id，定位错误代码为： os.environ["CUDA_VISIBLE_DEVICES"] = "1" mod.
pytorch多块gpu使用总结，报错AssertionError: Invalid device id
aab11235的博客
03-31 1883
pytorch关于多块gpu使用总结，报错AssertionError: Invalid device id 实验室有4块gpu 想使用标号2，3块时报错：AssertionError: Invalid device id 解决方案： 修改pytorch感受的设备编号。 os.environ['CUDA_VISIBLE_DEVICES'] = '2,3' cuda编号还是从0开始。 device = torch.device("cuda:0" if torch.cuda...
编程速记(7)：Pytorch篇-报错：Invalid device ids - 多GPU并行
weixin_38316806的博客
11-19 574
报错 invalid device ids 场景 在运行多GPU的pytorch程序时，报该错误 原因 因为pytorch 默认是只有cuda 0 是可见的。可以运行下面代码： import torch print(torch.cuda.device_count()) 会发现服务器上明明有多张显卡，但是返回值为1.这是因为：pytorch默认只有cuda0可见 解决方案 假定要执行的文件名...
【mindspore】Failed to set current device id | Error Number: 0
weixin_45666880的博客
08-26 212
我安装完mindspore后，进行测试，输入python -c "import mindspore;mindspore.run_check()"后显示报错，服务器中有一个GPU，这个怎么改呀【截图信息】上面的报错(ERROR日志）提示得比较详细了，因你这只有一张卡，可以先检查下： CUDA_VISIBLE_DEVICE是否在环境变量里设置了，检查方式可以是`env |grep CUDA_VISIBLE_DEVICE` 看看是否有对应的值，建议这个CUDA_VISIBLE_DEVICE的值就取1就好 - 另外
Http状态码 错误原因及解决方式（全）
weixin_43377482的博客
04-02 2170
问题 RestControllerResult<List<ListItemVideoInfoByItemIdResultDto>> listItemVideoInfoByItemId(@RequestBody List<Integer> itemIdList); 之前错误的理解用@RequestBody注解修饰的对象都应该是Json格式的{xxx:xxx},调用传参写成了{"itemIdList":[1]}这种格式了，导致出错 对策 调用传参改为[1] 横展
pytorch之多GPU使用——#CUDA_VISIBLE_DEVICES使用 #torch.nn.DataParallel() #报错解决
热门推荐
夏普通
06-14 9万+
文章目录1. 使用所有存在的显卡2. 指定编号使用显卡3. os.environ["CUDA_VISIBLE_DEVICES"]详解3.1. ["CUDA_VISIBLE_DEVICES"]使用3.2. 关于设置["CUDA_VISIBLE_DEVICES"]无效的解决4. torch.cuda主要函数4.1. torch.cuda.is_available()判断GPU是否可用4.2. torch.cuda.device_count()查看可用GPU数量4.3. torch.cuda.current_de
单GPU AssertionError: Invalid device id
最新发布
03-21
### 单GPU环境下的设备ID验证问题分析 在单GPU环境中遇到`AssertionError: Invalid device id`的问题可能源于以下几个方面： 1. **构建参数配置不当** 如果变量 `use_openh264` 被设置为构建参数，则需要确认该参数是否正确影响到当前运行环境中的硬件加速支持[^1]。如果未正确启用或适配特定的硬件功能，可能导致无法识别有效的设备。 2. **闭包执行过程中的错误处理不足** 在函数 `_process_closure` 中，通过 `wait_on_failure` 方法包裹了一层用于捕获和处理失败情况的逻辑[^2]。然而，在单GPU场景下，可能存在资源分配不匹配或者设备索引超出范围的情况，这可能会触发断言异常。 #### 解决方案 以下是针对此问题的具体解决方案： 1. **检查并修正设备ID的有效性** 需要确保传递给程序的设备ID是在实际可用范围内。对于单GPU系统而言，通常只有0号设备有效。可以通过如下方式验证： ```python import torch if not torch.cuda.is_available(): raise RuntimeError("CUDA is not available.") num_gpus = torch.cuda.device_count() if num_gpus == 0 or (num_gpus == 1 and torch.cuda.current_device() != 0): raise ValueError(f"Invalid device ID detected; only {num_gpus} GPUs are present.") ``` 2. **调整构建参数以适应单一GPU架构** 若项目依赖于某些编译选项（如 `use_openh264`），则需重新评估这些选项对目标平台的影响，并适当修改其默认行为来兼容低规格硬件环境。 3. **增强错误恢复机制** 修改现有代码片段以便更好地应对潜在崩溃情形。例如扩展上述提到的 `_process_closure` 函数定义部分增加额外日志记录以及更精细的状态管理措施: ```python def _process_closure(self, closure): """ Runs a closure with enhanced preemption handling. Adds logging to capture detailed failure information during execution. """ assert closure is not None try: with self._cluster.failure_handler.wait_on_failure( on_failure_fn=lambda: ( self._log_error_details(), self._cluster._closure_queue.put_back(closure), ), on_recovery_fn=self._reset_resource_state, worker_device_name=self.device_name, ): closure.execute_on(self) except Exception as e: print(f"Closure failed due to unexpected error: {e}") raise def _log_error_details(self): """Logs additional context about the current state when an exception occurs.""" pass def _reset_resource_state(self): """Resets any resource-specific flags after recovery from failure.""" pass ``` --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值