训练模型报错RuntimeError: Input, output and indices must be on the current device

已于 2023-11-18 12:13:07 修改
阅读量399 收藏
点赞数
文章标签： 深度学习 人工智能 算法 机器学习
于 2023-11-18 12:12:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_56190554/article/details/134476608
版权

问题出现：

        当我训练图网络模型时，源码默认使用cpu，查看后台性能运行，发现正在使用cpu训练，这大大降低了训练速率，并且增加了电脑负载。所以我决定将模型改造并训练放在GPU上运行。

        我在train方法中，将原有的data使用to(device)放在了GPU中：

再运行便报错： 

        RuntimeError: Input, output and indices must be on the current device

        报错翻译：输入输出模型必须存在同一设备中

 问题解决：

        问题解决这个问题是源于没有将自定义的model模型也放在GPU中，所以需要在方法外先把model也设置为GPU

GarsonW
关注
MMPano 部署笔记 图生全景图
jacke121的专栏
01-07 543
MMPano部署笔记图生全景图
Pytorch基于官方模型实现Faster-RCNN自定义数据集多GPU并行训练
tianwaifeimao的专栏
11-06 3259
本文用于记录利用Pytorch官方目标检测模型(torchvision.models.detection.xx)训练自定义数据集的爬坑过程，不具备普适性排雷功能，代码规范度较差，主要用于个人记录回溯。本文基于：Pytorch官方fastrcnn的Tutorial以及中文博客完成。 环境 win10-homebasic（Linux）；Pytorch 1.4.0；torchvision 0.5.0； Python 3.6.5/3.8.5；OpenCV 4.2.0 ；CUDA 10.0
RuntimeError: All input tensors must be on the same device.解决方案
qian9905的博客
12-16 990
在我的代码中我遇到这种情况一般都是在torch.cat的时候。
报错：RuntimeError: Input, output and indices must be on the current device
weixin_43994864的博客
02-23 2111
运行程序突然碰到RuntimeError: Input, output and indices must be on the current device错误！！ 环境： pytorch1.7.1 python3.8 1. 问题描述 输入向量x在GPU上，index变量在CPU上导致 2. 解决办法 将index弄到GPU上，使其与x保持一致，代码如下： index = index.to(torch.device("cuda")) 亲测有效O(∩_∩)O！！！ ...
Pytorch中“RuntimeError: Input, output and indices must be on the current device“问题解决
热门推荐
u011426236的博客
04-03 1万+
问题描述 昨天跟着一篇博客BERT 的 PyTorch 实现从头写了一下BERT的代码，因为原代码是在CPU上运行的，于是就想将模型和数据放到GPU上来跑，会快一点。结果，在将输入数据和模型都放到cuda上之后，仍然提示报错： "RuntimeError: Input, output and indices must be on the current device" 原因与解决方法 通过打印检查了很多次，输入变量和模型参数都在cuda:0上。 查找资料后发现可能是有以下两个地方导致这个问题。 在模型内
RuntimeError:Input, output and indices must be on the current device
weixin_46443427的博客
11-19 1494
一文看懂
Input, output and indices must be on the current device解决
sldjs2015的博客
05-24 371
torch.onnx.export的时候的Input, output and indices must be on the current device异常解决
RuntimeError: Expected tensor for argument #1 'indices' to have one of the following scalar types: Long, Int; but got torch.cuda.FloatTensor instead (while checking arguments for embedding)
最新发布
03-29
例如，“Input, output and indices must be on the current device”的提示表明存在跨设备的操作问题。此时应统一所有涉及对象所在的硬件资源位置[^4]: ```python embeddings = nn.Embedding(num_embeddings=10,...
条件随机场模型（CRF）
yyyyyy66的博客
03-14 653
展示了如何使用Pytorch实现CRF模型，并在中文命名实体识别（NER）任务上进行了实验，比较了不同的优化器和超参数对模型性能的影响。介绍了条件随机场模型（CRF）的原理和应用，CRF是一种判别式概率模型，常用于标注或分析序列资料，如自然语言文字或是生物序列。给出了CRF的数学定义和推导，包括条件概率分布、特征函数、权值向量、归一化因子、对数似然函数、梯度下降法等。
GPT-2生成式多轮对话入门-----深入理解“用于中文闲聊的GPT2模型”项目
g534441921的博客
02-20 1万+
深入理解“用于中文闲聊的GPT2模型”项目论文部分提炼DIALOGPT : Large-Scale Generative Pre-trainingfor Conversational Response Generation摘要介绍数据集方法模型结构 本文为对于GPT2 for Chinese chitchat项目的理解与学习 https://github.com/yangjianxin1/GPT...
RuntimeError: Input, output and indices must be on the current device
goodfake
04-15 806
我看了一下模型的输入，都放到了GPU上，然后我在网上查了一下，发现我在模型内部创建了新的模型，这些新的模型也要放在GPU上 self.bert = BertModel.from_pretrained(bert_config) self.multi_head1 = MultiHeadedAttention(8, 768, dropout) self.multi_head2 = MultiHeadedAttention(8, 768, dropout)
报错解决RuntimeError: Input, output and indices must be on the current device
优快云XXCQ的博客
08-14 2591
在对应位置添加.to(device) 即可
RuntimeError: Input, output and indices must be on the current device的思路之一
qq_37198234的博客
05-16 5986
当我们的数据有部分在GPU上运行，有部分在CPU上运行时会报这个错， 一般有GPU的话都会选择在GPU上面跑模型，但要注意将其他定义的对象也放在GPU上面，否则应该默认是在CPU上面。 如图所示， x是从GPU中传过来的， 但idx不是，idx是我们自己生成的，它默认放在GPU中，所以我们需要也把它放到GPU中，解决方法：加 .to(DEVICE) 其中DEVICE已定义。 ...
Input, output and indices must be on the current device解决办法
ROokie_online的博客
04-23 1774
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
深度学习中训练时候遇到这些错误 RuntimeError、IndexError、ValueError如何解决
m0_63669388的博客
07-17 5370
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same CUDA error: device-side assert triggeredRuntimeError: Expected all tensors to be on the same device, The size of tensor a (5) must match the size of
RuntimeError: All input tensors must be on the same device. Received cuda:0 and cpu 问题解决方案
dzcera的博客
01-24 3559
解决前 self.fc2.weight = nn.Parameter(self.fc2.weight * self.zeros) 解决后 device = torch.device(‘cuda:0’) # 假如我使用的GPU为cuda:0 self.fc2.weight = nn.Parameter(self.fc2.weight.to(device) * self.zeros.to(device)).to(device)
错误记录帖(持续更新)
喵喵喵
10-21 1911
错误记录帖
解决报错：RuntimeError: Expected object of data type 6 but got data type 4 for argument #2 'source'
muli
03-31 1178
报错：RuntimeError: Expected object of data type 6 but got data type 4 for argument #2 ‘source’ 《深度学习框架PyTorch入门与教程》 参考链接：https://www.cnblogs.com/wanghui-garcia/p/10623033.html RuntimeError Tra...
RuntimeError: stft input and window must be on the same device but got self on cpu and window on cuda:0
04-25
这个错误的含义是：STFT输入和窗口必须在同一个设备上，但是你给出的STFT输入数据在CPU上，而窗口数据在CUDA设备上。解决这个问题需要将输入数据移动到与窗口数据相同的设备上。可以使用以下代码来将CPU上的数据移动到CUDA设备上：input_data = input_data.to("cuda:0")。如果你的代码中还涉及到其他类型的数据转移，也可以使用to方法来将数据移动到需要的设备上。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值