
Pytorch杂七杂八
文章平均质量分 62
Pytorch杂七杂八
ctrl A_ctrl C_ctrl V
中国科学技术大学硕士,互联网公司算法工程师。
展开
-
维度不同的 Tensor 也能相加 ?
维度不同的 Tebsor 如何相加呢?但是是自动填充对应维度,使维度相同后再相加。如 torch.Size([1, 2, 3, 4]) 与 torch.Size([3, 4]) 相加,先将后者填充为 torch.Size([1, 2, 3, 4]) ,二者相加后 shape 为 [1, 2, 3, 4]torch.Size([3, 2, 1, 4]) 与 torch.Size([3, 4]) 相加,则先将两者填充为 torch.Size([3, 2, 3, 4]) ,二者相加后 shape 为 [3,原创 2021-08-16 16:20:29 · 4779 阅读 · 0 评论 -
如何将 Tensor 保存下来并加载 ?
将 Tensor 保存为 pth 文件再加载即可。这种方法对于不同 device 的服务器之间的算子测试,以及保存 size 很大的 Tensor 非常方便。a=torch.randn([3,4],device='cpu')torch.save(a,"a.pth") # 保存Tensor为pth文件b=torch.load("a.pth",map_location="cuda:0") # 指定加载的deviceprint(b)输出:tensor([[-0.2660, 0.5144,原创 2021-08-17 20:11:32 · 3700 阅读 · 0 评论 -
pytorch中tensor的形状 [n,1] 与 [n] 的区别
pytorch中tensor的形状 [n,1] 与 [n] 的区别原创 2022-09-25 14:32:47 · 1135 阅读 · 0 评论 -
PyTorch 保存和加载模型、查看模型结构的方法(入门级,不包括保存优化器、只加载部分参数等进阶方法)
PyTorch 保存和加载模型、以及查看模型结构的方法原创 2021-07-24 21:39:48 · 27552 阅读 · 1 评论 -
由浅入深:终于搞懂了 Python 和 PyTorch迭代器(iterator)、Dataset 和 DataLoader
关于 python 迭代器的基本介绍和使用可以看我之前写的博客: Python迭代器的创建和使用:iter()和next()方法,迭代器长度的获取一、从一个简单的列表引入迭代器将一个列表转换为迭代器(用 iter 方法),并逐个元素打印。print(list(range(5))) # [0, 1, 2, 3, 4]myiter = iter(list(range(5))) # 用iter方法将list转换为iteratorfor x in myiter: print(x)原创 2022-01-20 14:54:12 · 8317 阅读 · 3 评论 -
pytorch 提取网络中的某一层并冻结其参数
pytorch 提取网络中的某一层并冻结其参数原创 2022-11-28 19:01:42 · 2150 阅读 · 0 评论 -
PyTorch 反向传播报错:one of the variables needed for gradient computation has been modified by an inplace
PyTorch 反向传播报错:RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.cuda.FloatTensor [12, 128, 64, 64]], which is output 0 of ReluBackward0, is at version 1; expected version 0 instead. Hint:原创 2023-02-16 19:59:12 · 5621 阅读 · 0 评论 -
一文彻底搞懂 Softmax 函数,数学原理分析和 PyTorch 验证
Softmax 函数的数学原理分析和 PyTorch 使用原创 2023-06-14 15:46:24 · 48926 阅读 · 5 评论 -
深度学习框架 PyTorch vs MindSpore (一): 二者的Tensor操作方法,以及与NumPy的转换
一、torch.Tensor1、torch.Tensor 的基本用法torch.Tensor 默认数据类型是 float32torch.LongTensor 默认数据类型是 int64数据类型转换可通过 t.int() 和 t.float()实现t.size(): 查看形状,与 t.shape 等价t.ndim: 查看维数t.numel(): 查看元素总数type(t): 查看数据结构类型t.dtype: 查看元素数据类型example:import torchb=torch.Te原创 2021-07-15 18:03:57 · 7063 阅读 · 6 评论 -
pytorch打不开tensorboard的解决方法,解决报错 No dashboards are active for the current data set.
第一次用tensorboard查看数据发现打开网站没有数据。命令:tensorboard --logdir=logs报错:网上有很多解决方法,有的说把命令中的等号去掉,有的说 logs 要加双引号,有的说要用绝对路径,甚至还有说要装 tensorflow 才能打开。众所周知 pytorch1.1.0 版本之后的 pytorch 已经可以独立使用 tensorboard 了,与 tensorflow 无关。要说的是 tensorboard --logdir=logs 这个命令格式毫无问题,这里有一个原创 2021-07-24 14:25:11 · 1512 阅读 · 6 评论