Tensor
Tensor概念

标量没有方向
向量延一个方向排列
二位张量:矩阵(灰度图像)
三维张量(RGB图像)高、宽、色彩
torch.tensor

数据类型dtype

最常用的是float32类型。卷积层的权值和图像预处理后都默认为float32
其次是int64类型。图像的标签,计算交叉熵的损失函数
张量的形状shape
如(64,3,224,224)
张量所在的设备device
CPU/GPU:加速的关键
创建Tensor的方法grad_fn
创建Tensor的方法,在求导时用到,需要记录下来
是否需要梯度requires_grad
指示是否需要梯度,并不是所有张量都需要计算梯度,不需要的设为FALSE,节省内存,加快速度
是否是叶子节点
指示张量是否是叶子节点
张量的创建
直接创建

arr = np.ones((3,3))
print('ndarray的数据类型:',arr.dtype)
t = torch.tensor(arr)
print(t)
通过numpy创建
全0张量


全1张量

全为某值的张量

等差张量

均分张量


创建对角张量

依概率分布创建张量
正态分布


标准正态分布

均匀分布

随机排列

常用于生成随机索引
伯努利分布

本文深入探讨了PyTorch中张量的概念及其在深度学习中的应用,包括数据类型、形状、设备选择、创建方法及梯度计算。覆盖从基本张量操作到高级概率分布生成的全面指南。
3万+

被折叠的 条评论
为什么被折叠?



