pytorch中每个tensor都有三个特性:torch.dtype, torch.device和torch.layout.
torch.dtype
数据类型
torch.device
torch.device包含device的名称(‘CPU’或’GPU’)以及设备序号。
1.torch.cuda.set_device() 参数为device或其序号。一般不建议使用,改变device最好设置CUDA_VISIBLE_DEVICES环境参数。
2.torch.cuda.current_device() 返回当前cuda的序号
3.torch.device()参数形式
torch.device(‘cpu’)
torch.device(‘cuda: 0’)
torch.device(‘cuda’, 1)
如:cuda1 = torch.device(‘cuda’, 0),之后可以直接在别的方法里使用cuda1作为设备参数。
torch.layout
torch.layout是tensor的内存布局(memory layout),即tensor在内存中的排列方式,目前有两种torch.strided(用于dense tensor)和torch.sparse_coo(稀疏,beta版)。
torch.strided记录的是第k维的下一个元素需要在内存中跳跃几个元素的空间
本文详细介绍了PyTorch中Tensor的三个关键特性:torch.dtype涉及数据类型,torch.device涵盖CPU和GPU设备及其管理,torch.layout则关乎内存布局,主要为torch.strided和torch.sparse_coo。了解这些概念对于高效使用PyTorch进行深度学习至关重要。
1163

被折叠的 条评论
为什么被折叠?



