Pytorch的坑记录

最新推荐文章于 2024-07-31 20:07:24 发布
原创 最新推荐文章于 2024-07-31 20:07:24 发布 · 769 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#pytorch

本文记录了PyTorch使用过程中遇到的两个常见问题：LongTensor与float运算可能导致数值变为0的bug，以及RuntimeError: cuda runtime error (59)的错误调试方法。建议在所有运算完成后才转换为long/int类型，且CUDA错误通常需检查指示行之前的代码。

总说

简要记录一下pytorch中的坑

  1. LongTensor(IntTensor）和float数字操作，直接变成0！

坑1： long tensor的bug？

import torch
a = (torch.rand(3,4)*10).long()
print(a)
最低0.47元/天 解锁文章
【RL】Pytorch简洁教程 | 坑点总结
发现问题，并解决问题，批判性思维
06-13 8150
训练一个神经网络通畅需要以下步骤： - 定义一个神经网络，通常有一些可以训练的参数 - 迭代一个数据集（Dataset） - 处理网络的输入 - 计算损失（会调用Module对象的`forward()`方法） - 计算损失函数对参数的梯度 - 更新参数，通常使用如下的梯度下降方法来更新：`weight=weight-learning_rate × gradien`。
Pytorch的坑
qq_41879767的博客
03-20 612
关于Anaconda环境下的Pytorch安装的TipsAnaconda的安装怎么安装AnacondaPytorch的安装让我们一起来填坑吧 Anaconda的安装 整个戏剧故事的开始自然是要从Anaconda开始了 不过我在安装pytorch的时候其实老早就已经安装好anaconda的环境了 但是作为故事发展需要还是有必要提一下这一点的 ...
pytorch环境配置以及你将遇到的所有坑（Win、CPU）
m0_61413237的博客
01-20 1617
本文将你在pytorch安装过程中可能踩得坑一一列举出来了，希望你少走一些弯路，花更多的时间在编程上。
神经网络训练数据准备---数据标签在numpy和tensor之间的转换及处理---Pytorch实现
weixin_45564943的博客
01-06 3736
目录 1.从txt文档中读取训练数据和测试数据 2.从txt文件中读取标签数据 3.将训练数据和测试数据转化为tensor形式，为后面训练做准备，因为训练数据在pytorch要求一般为tensor格式 4.将标签转化为float型(此处是因为做的是回归任务)，如果想要做分类任务的话需要将标签转化为long型！ 5.将已经转化为tensor格式的(train_datas, train_labels)和(test_datas, test_labels)转化为Data.DataLoader可以使用的格式
PyTorch踩过的12坑 | 优快云博文精选
喜欢打酱油的老鸟
11-19 720
2019-11-12 18:35:19 作者 | hyk_1996 来源 | 优快云博客 1. nn.Module.cuda 和 Tensor.cuda 的作用效果差异 无论是对于模型还是数据，cuda函数都能实现从CPU到GPU的内存迁移，但是他们的作用效果有所不同。 对于nn.Module: model = model.cuda model.cuda 上面两句能够达...
PyTorch踩坑记
给永远比拿愉快
07-25 2916
PyTorch踩坑记 前言 自己刚开始使用深度学习框架做事情的时候，选择了最容易入门的Keras。Keras是在其它深度学习框架（谷歌的TensorFlow，微软的CNTK以及Theano）的基础上，抽象了底层实现的差异，提供的更高层的API接口。说说Keras的好处吧！个人觉得Keras最吸引人的地方就是API接口的设计特别人性化，对于样本的训练，结果的测试都有一种使用传统机器学习库的感...
pytorch掉坑记录:model.eval的作用说明
12-17
在PyTorch中，`model.eval()` 是一个非常重要的函数，它用于切换模型到评估模式。这个模式在训练完成后，当我们需要对模型进行预测或测试数据集时使用。`model.eval()` 的作用在于确保在推理过程中，模型的行为与...
Anaconda安装Pytorch1.13.1记录
m0_62812374的博客
06-07 4627
最近做的项目想要安装一个包，但发现这个包的依赖包需要torch1.13.1以上，之前配的环境还是pytorch1.11的。原以为上次踩到的坑已经很多了，没想到这次踩到了与众不同的坑。。。。所以来记录一下，以供下次参考。
Pytorch采坑记录：DDP加载之前的checkpoint后loss上升（metric下降）
撸猫写博客
01-22 5016
  最近在鼓捣使用pytorch的distributeddataparallel这个API搭一个数据并行的训练测试任务，过程中遇到了一个问题，做一下记录。 1、问题   使用DDP打包了一个模型训练了一段时间，loss不断下降metric不断上升，一切都是很正常的现象。当因为意外暂停或者手动暂停更改学习率而停止了程序，再开启程序加载之前的checkpoint继续训练，却发现loss突然比之前上升或者metric比之前下降了很多。仔细看了一下loss的值，发现直接回到刚开始第一次训练模型时的水平，仿佛chec
pytorch遇到的一些坑
yamengxi的博客
10-29 355
pytorch遇到的一些非常害人的坑一、tensor.scatter()暗含的坑 一、tensor.scatter()暗含的坑 tensor.scatter()方法pytorch官方文档讲解的还是很详细的，如下图所示： 有一个坑就是：**index参数必须是torch.int64 or torch.long！torch.int32 or torch.int都是不可以的！**否则的话，会报一些匪夷所思的错误！如下图所示： ...
pytorch 各种坑
qq_29007291的博客
11-28 338
制作dataloader时, 忘了做图像尺寸的同一调整: RuntimeError: invalid argument 0: Sizes of tensors must match except in dimension 0. Got 182 and 360 in dimension 2 RuntimeError: invalid argument 0: Sizes of tensors mu...
Pytorch常见的坑汇总
小白学视觉
09-21 402
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达 本文转自|深度学习这件小事最近刚开始用pytorch不久，陆陆续续踩了不少坑，记录一下，个人感觉应该都是一些很容易...
type(torch.LongTensor)报错有关不同变量分别在cpu和cuda下
weixin_44003026的博客
12-09 3692
变量名.type()转换tensor类型的时候注意！！！ torch.cuda.LongTensor：加载到GPU torch.LongTensor：加载到CPU 官网其他转换类型 model.cuda() input_iter = Variable(torch.tensor(input_iter)) input_iter = input_iter.type(torch.cuda.LongTensor) output = model(input_iter) ...
pytorch 定义torch类型数据_PyTorch官方中文文档：torch.Tensor
weixin_39849671的博客
01-14 1916
torch.Tensortorch.Tensor是一种包含单一数据类型元素的多维矩阵。Torch定义了七种CPU tensor类型和八种GPU tensor类型：Data tyoeCPU tensorGPU tensor32-bit floating pointtorch.FloatTensortorch.cuda.FloatTensor64-bit floating pointtorch.Dou...
torch.cuda.LongTensor but found type torch.cuda.FloatTensor for argument #2 'target'的一种可能原因
york1996的博客
11-17 5265
可能是在使用交叉熵损失函数的时候，target需要是整数，才能转化成索引值，进而进行one-hot编码。 输出一下target的张量，可以看到每个值都后面有一个点.比如5.这样，应该表示的就是浮点类型的值。 这个时候需要target=target.long()执行一下类型转换。...
pytorch中tensor的数据类型及相互转化
m0_46483236的博客
03-29 7816
1. 数据类型: 在torch中CPU和GPU张量分别有8种数据类型, GPU tensor比CPU tensor多了.cuda 张量数据类型 数据类型 dtype CPU tensor GPU tensor 32位浮点型 torch.float32 或 torch.float torch.FloatTensor torch.cuda.FloatTensor 64位浮点型 torch.float64 或 torch.double torch..
[pytorch] Expected torch.LongTensor but found type torch.cuda.LongTensor for argument#4
nc101100的博客
06-03 1004
RuntimeError: Expected object of type torch.LongTensor but found type torch.cuda.LongTensor for argument #4 ‘other’ 错误定位 predicted_nclass = torch.LongTensor(1800, 85) output_avg = (output[0][0] + output[0][1] + output[0][2]) / 3 predicted_nclass[start:end
【pyTorch基础】(1) 张量的数据类型
博观而约取，厚积而薄发
04-15 2363
最近想学一下图卷积GCN，教程竟然都是pyTorch的，作为一名重度TensorFlow用户太崩溃了，没办法只能学一波pyTorch了。 首先在pyTorch中，一个张量（tensor）可能会被部署在CPU上，也可能被部署在GPU上。它们的数据类型是不同的。即使是同一个数据，被部署在不同位置，那么它的数据类型也是不一样的。数据类型如下： import torch ''' # pyTorch的数据类型 # -------------------------------------- # #（1）CUP上
PyTorch环境中使用CUDA出现的报错
GDHBFTGGG的博客
07-31 1098
PyTorch环境中使用CUDA出现的报错
Pytorch采坑记录:DDP 损失和精度比 DP 差,多卡GPU比单卡GPU效果差
最新发布
09-28
在Pytorch中，DDP损失和精度比DP差，多卡GPU比单卡GPU效果差，可能有以下原因及相应的解决办法： ### 原因： - **学习率和批量大小设置不合理**：多卡训练时，随着GPU数量增加，实际的批量大小会变大，若学习率和...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值