PyTorch 中如何指定GPU

PyTorch默认使用从0开始的GPU，如果GPU0正在运行程序，需要指定其他GPU。

有如下两种方法来指定需要使用的GPU。

1. 类似tensorflow指定GPU的方式，使用CUDA_VISIBLE_DEVICES。

1.1 直接终端中设定：

CUDA_VISIBLE_DEVICES=1 python my_script.py

1.2 python代码中设定：

## 建议使用该方法
import os 
os.environ["CUDA_VISIBLE_DEVICES"] = "0,1"

见网址：http://www.cnblogs.com/darkknightzh/p/6591923.html

2. 使用函数 set_device

##不建议使用该方法
import torch 
torch.cuda.set_device(1)

该函数见 pytorch-master\torch\cuda\__init__.py。

不过官方建议使用CUDA_VISIBLE_DEVICES，不建议使用 set_device 函数。

以上引用自：https://www.cnblogs.com/darkknightzh/p/6836568.html

2.如何将tensor或函数放在GPU上

 直接使用tensor.cuda() 或 func().cuda()即可。不能直接对类或类对象执行".cuda()"