Tensor
Tensor概念
标量没有方向
向量延一个方向排列
二位张量:矩阵(灰度图像)
三维张量(RGB图像)高、宽、色彩
torch.tensor
数据类型dtype
最常用的是float32类型。卷积层的权值和图像预处理后都默认为float32
其次是int64类型。图像的标签,计算交叉熵的损失函数
张量的形状shape
如(64,3,224,224)
张量所在的设备device
CPU/GPU:加速的关键
创建Tensor的方法grad_fn
创建Tensor的方法,在求导时用到,需要记录下来
是否需要梯度requires_grad
指示是否需要梯度,并不是所有张量都需要计算梯度,不需要的设为FALSE,节省内存,加快速度
是否是叶子节点
指示张量是否是叶子节点
张量的创建
直接创建
arr = np.ones((3,3))
print('ndarray的数据类型:',arr.dtype)
t = torch.tensor(arr)
print(t)
通过numpy创建
全0张量
全1张量
全为某值的张量
等差张量
均分张量
创建对角张量
依概率分布创建张量
正态分布
标准正态分布
均匀分布
随机排列
常用于生成随机索引