python 管理GPU资源

背景：解决模型运行时GPU资源占用量等各种数据的统计

解决办法：利用python库py3nvml

官方文档：https://py3nvml.readthedocs.io/en/latest/

github:https://github.com/fbcotter/py3nvml

安装方式：（我的python版本是python3.5）

pip install nvidia-ml-py3

使用case：

import pynvml
pynvml.nvmlInit()
handle = pynvml.nvmlDeviceGetHandleByIndex(0)#0就是GPU idx
meminfo = pynvml.nvmlDeviceGetMemoryInfo(handle)
print(meminfo.used)

参考：https://blog.youkuaiyun.com/u013066730/article/details/82756379