pytorch使用过程中指定显卡训练

本文介绍如何在PyTorch中指定使用特定编号的GPU进行模型训练,包括默认使用0号GPU的方法及如何通过环境变量设置来确保整个训练流程都在指定的GPU上运行。
部署运行你感兴趣的模型镜像

目录

1 指定单块显卡进行训练

        1.1 默认的0号显卡

        1.2 使用其他显卡,例如1号或其他


1 指定单块显卡进行训练

        1.1 默认的0号显卡

        若使用“0”号显卡进行训练,可以直接在代码中写

device = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu' )

        1.2 使用其他显卡,例如1号或其他

        若直接将1.1中的cuda:0改为cuda:1,则加载模型和数据还是通过0号显卡,如果0号卡被占满,那么将导致报“cuda out of memory”的问题。

        如果需要所有过程都通过1号显卡,那么可以直接用os指定。代码如下

import os 
os.environ['CUDA_VISIBLE_DEVICES'] = '1'

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu' )

# 接下来的代码可能是
# net.to(device)
# 为了把模型和数据都转移到这个device中,由于限定了可见cuda为1,故能指定只使用1号卡进行训练

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库,基于 Torch 库,底层由 C++ 实现,应用于人工智能领域,如计算机视觉和自然语言处理

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值