PyTorch学习
文章平均质量分 77
PyTorch学习过程中的各种笔记
gdymind
这个作者很懒,什么都没留下…
展开
-
Pytorch中常见的报错解决方案
本文用于记录所在pytorch所遇到过的运行时错误,持续更新。变量所在设备(CPU,GPU)不一致问题RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same可能原因:现在假设代码要在GPU上运行,并且你已经进行my_model.to...原创 2018-10-03 20:05:03 · 12705 阅读 · 1 评论 -
Ubuntu配置GPU版本pytorch环境(含NVIDIA驱动+Cuda+Cudnn)
本文更新于2018年8月概述步骤如下: 1. 安装Ubuntu 2. 安装NVIDIA 显卡驱动 2. 安装NVIDIA Cuda 3. 安装NVIDIA CuDNN 4. 安装GPU版本的PyTorch安装Ubuntu系统版本选择之前pytorch是不支持Windows的,现在貌似是支持了,但我们还是选择Ubuntu。注意Ubuntu的版本要与cuda兼容,...原创 2018-08-28 19:56:29 · 34538 阅读 · 4 评论 -
Autograd:Pytorch 中的自动微分机制讲解
本文翻译、整理自Autograd官方documentation本文讲解了Autograd——pytorch中用于自动求微分的模块。下面的内容不需全部掌握,但读一下还有有助于加强理解的。在backward的过程中排除一部分子图Tensor的属性requires_grad代表它是否需要求梯度。注意除了这个属性除了可以被显式地设置性之外,还会被一个规则所定义:如果一个Tensor AAA...原创 2018-08-30 16:43:45 · 3226 阅读 · 0 评论 -
PyTorch中的Dataset、Dataloader和_DataloaderIter
DatasetPytorch中数据集被抽象为一个抽象类torch.utils.data.Dataset,所有的数据集都应该继承这个类,并override以下两项: - __len__:代表样本数量。len(obj)等价于obj.__len__()。 - __getitem__:返回一条数据或一个样本。obj[index]等价于obj.__getitem__。建议将节奏的图片等高负载的操作放...原创 2018-08-30 19:16:05 · 11465 阅读 · 5 评论 -
Pytorch中的optimizer
与优化函数相关的部分在torch.optim模块中,其中包含了大部分现在已有的流行的优化方法。如何使用Optimizer要想使用optimizer,需要创建一个optimizer 对象,这个对象会保存当前状态,并根据梯度更新参数。怎样构造Optimizer要构造一个Optimizer,需要使用一个用来包含所有参数(Tensor形式)的iterable,把相关参数(如learni...原创 2018-09-14 21:28:48 · 35830 阅读 · 9 评论 -
PyTorch中的PixelShuffle
感性认识一般的convolution操作会使feature map变小, 但当我们的stride=1r&lt;1stride=1r&lt;1\text{stride} = \frac{1}{r} < 1时,可以让卷积后的feature map变大,这个新的操作叫做sub-pixel convolution,具体原理可以看Real-Time Single Image and Video Sup...原创 2018-09-04 18:13:02 · 25662 阅读 · 7 评论 -
Pytorch中的contiguous理解
最近遇到这个函数,但查的中文博客里的解释貌似不是很到位,这里翻译一下stackoverflow上的回答并加上自己的理解。在pytorch中,只有很少几个操作是不改变tensor的内容本身,而只是重新定义下标与元素的对应关系的。换句话说,这种操作不进行数据拷贝和数据的改变,变的是元数据。这些操作是: narrow(),view(),expand()和transpose()举个栗...原创 2018-09-12 15:35:43 · 36351 阅读 · 5 评论