
深度学习框架
文章平均质量分 91
深度学习框架,tensorflow 和 pytorch
zyw2002
Talent hits a target no one else can hit; Genius hits a target no one else can see;
展开
-
【torch.nn : Pooling Layers】
功能:计算MaxPool2d的逆运算 (MaxPool2d并不是完全可逆的,因为部分非最大的信息是丢失的)功能: 在由几个输入平面组成的输入信号上应用二维自适应平均池化。对于任何输入大小,输出的大小均是。组成的元组——在这种情况下,第一个int用于表示高度维度,第二个int用于表示宽度维度。或者在output_size中的call operator中给出。功能: 在由几个输入平面组成的输入信号上应用2D最大池化。在由几个输入平面组成的输入信号上应用二维平均池化。输出的特征数等于与输入平面的数量。原创 2023-08-11 11:01:55 · 276 阅读 · 0 评论 -
【torch.nn.PixelShuffle】和 【torch.nn.UnpixelShuffle】
PixelUnshuffle就是PixelShuffle的逆操作。如下图可以看到,PixelShuffle是把输入通道按照缩放因子。PixelShuffle是一种上采样方法,它将形状为。功能: 是PixelShuffle的逆操作,把大小为。输入的第二组(后4个通道)中的元素,每次间隔。,PixelShuffle的 缩放因子是。交错排列,合并成输出的第一个通道维度。交错排列,合并成输出通道的第二个维度。是 0 或者batch大小。的张量重新排列转换为形状为。通道)中的元素,每次间隔。的张量重新排列为大小为。原创 2023-08-09 21:20:57 · 8654 阅读 · 2 评论 -
【torch.nn.Fold】和【torch.nn.Unfold】
toch.nn.Fold 就是torch.nn.Unfold的逆操作,将提取出的滑动局部区域块还原成batch的张量形式。该操作将输入空间维度内的每个kernel_size大小的滑动块展平到一列中, 输出的大小为。(也就是卷积操作中的提取kernel filter对应的滑动窗口)把它按照顺序展开,得到的特征数就是。表示每个block中包含的所有值的个数,一个block是kernel_size的面积和通道数的乘积,torhc.nn.Unfold的功能: 从一个batch的样本中,提取出滑动的局部区域块。原创 2023-08-09 15:13:26 · 1015 阅读 · 0 评论 -
【torch.nn.Module】神经网络模块类及其方法
是所有神经网络模块的基类。自定义的模型也应该子类化这个类。该模块还可以包含其他模块,允许将它们嵌套在树结构中。以这种方式分配的子模块将被注册,并且在调用to()时也将转换它们的参数,等等。根据上面的例子,在赋值给子类之前,必须对父类进行__init__()调用。参数training (bool): 布尔值表示该模块是处于训练模式还是评估模式。原创 2022-12-11 13:25:20 · 2912 阅读 · 0 评论 -
【torch.optim】优化器的使用 / 学习率的调整 / SWA策略
torch.optim是实现各种优化算法的包。大多数常用的方法都已得到支持,而且接口足够通用,因此将来还可以轻松集成更复杂的方法。原创 2022-12-09 20:19:25 · 3047 阅读 · 0 评论 -
【torch-Random sampling】随机采样
功能将生成随机数的种子设置为非确定性随机数。返回用于种子RNG的64位数字。返回值类型功能设置生成随机数的种子。返回一个torch.Generator的对象参数返回值类型 : 功能返回作为Python 生成随机数的初始种子**。**返回值类型 : 功能返回作为torch.ByteTensor的随机数生成器状态。返回值类型: 功能设置随机数生成器状态。参数功能从伯努利分布中抽取二元随机数(0 或者 1)。输入张量须包含用于抽取上述二元随机值的概率。 因此,输入中的所有值都必须在原创 2022-12-06 18:06:17 · 3011 阅读 · 0 评论 -
【torch.utils.data.sampler】采样器的解析和使用
sampler 采样器,是一个迭代器。PyTorch提供了多种采样器,用户也可以自定义采样器。所有sampler都是承 这个抽象类。顺序采样 SequentialSampler功能顺序地对元素进行采样,总是以相同的顺序。参数: 采样的数据集初始化方法仅仅需要一个Dataset类对象作为参数。对于只负责返回数据源包含的数据个数;方法负责返回一个可迭代对象,这个可迭代对象是由range产生的顺序数值序列,也就是说迭代是按照顺序进行的。例子得到下面的输出,说明Sequenti原创 2022-12-04 19:58:55 · 4900 阅读 · 0 评论 -
【torch.utils.data】 Dataset和Dataloader的解读和使用
Pytorch中的 提供了两个抽象类: 和 。 允许你自定义自己的数据集,用来存储样本及其对应的标签。而 则是在 的基础上将其包装为一个可迭代对象,以便我们更方便地(小批量)访问数据集。一些必备概念::整个数据集的大小; :在训练过程中,我们不可能把所有样本一次性投喂给神经网络,只能分批次投喂。每个小批量的样本个数就是 Batch Size :将一个 Batch 投喂给神经网络称为一次 Iteration; :将所有的样本(即所有 Batch)投喂给神经网络后称为一个 Epoch。原创 2022-12-04 18:02:43 · 4780 阅读 · 3 评论 -
【torch.nn.Sequential】序列容器的介绍和使用
nn.Sequential是一个有序的容器,该类将按照传入构造器的顺序,依次创建相应的函数,并记录在Sequential类对象的数据结构中,同时以神经网络模块为元素的有序字典也可以作为传入参数。因此,Sequential可以看成是有多个函数运算对象,串联成的神经网络,其返回的是Module类型的神经网络对象。字典以字典的方式实例化基本操作查看结构通过打印 对象来查看它的结构索引我们可以使用索引来查看其子模块长度修改子模块删除子模块添加子模块原创 2022-12-04 14:40:37 · 4940 阅读 · 0 评论 -
【torch.nn.init】初始化参数方法解读
格式作用从均匀分布U(a,b)U(a,b)U(a,b)中生成值,填充输入的张量或变量。参数例子正态分布格式作用从给定均值和标准差的正态分布N(mean,std)N(mean,std)N(mean,std)中生成值,填充输入的张量或变量。参数常数分布格式作用用的值填充输入的张量或变量参数全1分布格式作用用全0填充张量参数例子全0分布格式作用用全1填充张量参数例子对角分布格式作用用单位矩阵来填充2维输入张量或变量参数dirac 分布格式作用用Dirac δ函数来填原创 2022-12-04 14:05:08 · 3917 阅读 · 0 评论 -
【torch.nn.Parameter 】参数相关的介绍和使用
是继承自的子类,其主要作用是作为中的可训练参数使用。它与的区别就是会自动被认为是的可训练参数,即加入到这个迭代器中去。具体格式如下:其中 为待传入的 , 默认为 True。事实上, 中提供的模块中的参数均是 类,例如:参数构造可以看作是一个类型转换函数,将一个不可训练的类型 转换成可以训练的类型 ,并将这个 绑定到这个 里面添加的参数会被添加到列表中,会被送入优化器中随训练一起学习更新此时调用 方法会显示参数。读者可自行体会以下两端代码:相当于把传入的数据包装成一个参数,如果要直接访问/使原创 2022-12-04 11:47:18 · 7755 阅读 · 0 评论 -
Pytorch学习笔记 (参考官方教程)
PyTorch有两个处理数据的基本体: and 其中 存储样本及其对应的标签,在数据集周围包装一个可迭代对象。PyTorch提供了特定领域的库,如、和,所有这些库都包含数据集。在本教程中,我们将使用一个数据集。模块包含许多现实世界视觉数据的Dataset对象,如CIFAR, COCO。在本教程中,我们使用FashionMNIST数据集。每个TorchVision 包含两个参数:和,分别用于修改样本和标签。我们将作为参数传递给。它在数据集上封装了一个可迭代对象,并支持自动批处理、采样、变换和多进程数据加载原创 2022-11-26 19:36:13 · 1084 阅读 · 1 评论 -
PyTorch 框架学习 更新中...
基础指数Tensor 形式import torchfrom torch import tensorScalar:通常就是一个数值x = tensor(42.)x # tensor(42.)x.dim() # 02 * x # tensor(84.)x.item() # 42.0Vector例如: [-5., 2., 0.],在深度学习中通常指特征,例如词向量特征,某一维度特征等v = tensor([1.5, -0.5, 3.0])v # tensor([ 1.5000原创 2021-09-02 22:52:24 · 288 阅读 · 0 评论 -
Windows系统用Anaconda安装tensorflow和pytorch的gpu版本
安装Anaconda首先进入Anaconda官网选择适合自己电脑系统的版本,并点击download3.双击下载好的应用程序,并进行安装(除了下述特别注意的步骤外,其他的默认选项即可)4. 然后打开电脑左下角的windows图标,“最近添加”中就会多出来下面几个图标(后面会用到)5. 然后点击Anaconda Navigator这个过程中不要连外网!不然会出现如下的Error (第一次安装的时候因为这个折腾的好久以为是安装出错了)正常情况下,打开后的界面长这样(目前只有一个bas原创 2021-09-09 08:46:45 · 2743 阅读 · 2 评论