pytorch tensor的特性（attributes）

pytorch中每个tensor都有三个特性：torch.dtype, torch.device和torch.layout.

torch.dtype

数据类型

torch.device

torch.device包含device的名称（‘CPU’或’GPU’）以及设备序号。

1.torch.cuda.set_device() 参数为device或其序号。一般不建议使用，改变device最好设置CUDA_VISIBLE_DEVICES环境参数。

2.torch.cuda.current_device() 返回当前cuda的序号

3.torch.device()参数形式
torch.device(‘cpu’)
torch.device(‘cuda: 0’)
torch.device(‘cuda’, 1)
如：cuda1 = torch.device(‘cuda’, 0)，之后可以直接在别的方法里使用cuda1作为设备参数。

torch.layout

torch.layout是tensor的内存布局（memory layout），即tensor在内存中的排列方式，目前有两种torch.strided(用于dense tensor)和torch.sparse_coo(稀疏，beta版)。
torch.strided记录的是第k维的下一个元素需要在内存中跳跃几个元素的空间