一些gpu的使用方法

原创于 2023-02-03 10:01:08 发布 · 283 阅读

CC 4.0 BY-SA版权

文章标签：

4 篇文章

订阅专栏

在代码中，通过设置环境变量`CUDA_VISIBLE_DEVICES`选择GPU2，然后使用`torch`库根据CUDA是否可用决定运行设备是GPU还是CPU。通过`nvidia-smi`命令行工具，可以监控GPU的利用率（GPU-Util）。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在代码里写：

os.environ['CUDA_VISIBLE_DEVICES'] = '2'
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

命令行可以查看使用情况：

nvidia-smi

其中，GPU-Util是GPU利用率