[885]Tensorflow设置CUDA_VISIBLE_DEVICES来控制GPU的使用

• os.environ[“CUDA_DEVICE_ORDER”] = “PCI_BUS_ID” # 按照PCI_BUS_ID顺序从0开始排列GPU设备
• os.environ[“CUDA_VISIBLE_DEVICES”] = “0” #设置当前使用的GPU设备仅为0号设备 设备名称为’/gpu:0’
• os.environ[“CUDA_VISIBLE_DEVICES”] = “1” #设置当前使用的GPU设备仅为1号设备 设备名称为’/gpu:1’
• os.environ[“CUDA_VISIBLE_DEVICES”] = “0,1” #设置当前使用的GPU设备为0,1号两个设备,名称依次为’/gpu:0’、’/gpu:1’
• os.environ[“CUDA_VISIBLE_DEVICES”] = “1,0” #设置当前使用的GPU设备为1,0号两个设备,名称依次为’/gpu:1’、’/gpu:0’。表示优先使用1号设备,然后使用0号设备

如果服务器有多个GPU，tensorflow默认会全部使用。如果只想使用部分GPU，可以通过参数CUDA_VISIBLE_DEVICES来设置GPU的可见性。

示例：

Environment Variable Syntax      Results
CUDA_VISIBLE_DEVICES=1           Only device 1 will be seen
CUDA_VISIBLE_DEVICES=0,1         Devices 0 and 1 will be visible
CUDA_VISIBLE_DEVICES="0,1"       Same as above, quotation marks are optional
CUDA_VISIBLE_DEVICES=0,2,3       Devices 0, 2, 3 will be visible; device 1 is masked
CUDA_VISIBLE_DEVICES=""          No GPU will be visible

在终端设置

在终端调用Python脚本前，可以设置CUDA_VISIBLE_DEVICES变量，如下：

$ CUDA_VISIBLE_DEVICES=1 python my_script.py

这样my_script.py脚本就只能使用GPU 1。

在Python脚本内设置

如果想在Python的脚本内设置使用的GPU，可以使用os.environ，如下：

import os
os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"]="1"

检查TensorFlow对GPU的可见性：

from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())

参考：https://blog.youkuaiyun.com/Jamesjjjjj/article/details/83414680
https://majing.io/posts/10000039461231