PyTorch中使用指定的GPU

本文介绍在PyTorch中如何指定使用特定GPU的方法,包括通过环境变量、Python代码设置及使用set_device函数,适用于多GPU环境下的任务调度。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

PyTorch默认使用从0开始的GPU,如果GPU0正在运行程序,需要指定其他GPU。那么在有多个GPU的情况下怎么选择使用哪张卡呢?
有如下三种方法来指定需要使用的GPU。

  1. 使用CUDA_VISIBLE_DEVICES,直接在终端中设定
    CUDA_VISIBLE_DEVICES=id python demo.py
  2. 在 python代码中设定:
    import os
    os.environ[“CUDA_VISIBLE_DEVICES”] = “id”
  3. python代码中使用函数 set_device设定
    import torch
    torch.cuda.set_device(id)
    我这里有四张卡,id也就是0-4,即为你想要使用的GPU序号。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值