训练时无法指定GPU的问题

原创已于 2025-10-03 20:54:19 修改 · 156 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能

于 2025-02-20 13:10:35 首次发布

把torch往前放

import torch 
print("可用GPU数量：", torch.cuda.device_count())  # 应输出4
print("GPU列表：", [torch.cuda.get_device_name(i) for i in range(torch.cuda.device_count())])  # 应显示4张卡名称


mport sys
import os

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

尼口666

关注关注

2
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

transformers库中的Trainer运行出现CUDA out of memory

qq_42217215的博客

08-17

1021

假设你有 4 个 GPU，编号为 0, 1, 2, 3。如果你设置了 os.environ[“CUDA_VISIBLE_DEVICES”]=‘2’，那么程序会将编号为 2 的 GPU 映射为程序中的 GPU 0，从而只使用这一块 GPU。通过设置 os.environ[“CUDA_VISIBLE_DEVICES”]=‘2’，你的程序会认为只有编号为 2 的 GPU 存在，并且只会在这个 GPU 上运行计算任务。如果一个程序只需要一个 GPU，你可以指定一个特定的 GPU 而不是默认使用全部可用 GPU。

【Pytorch】指定训练时使用的GPU ID

weixin_42469354的博客

07-27

1772

指定训练时使用的GPU ID//change default GPU device

参与评论您还未登录，请先登录后发表或查看评论

解决yolo无法指定显卡的问题，实测v5、v7、v8有效

毕竟是Shy哥

10-07

4111

模型被送到0号卡，但实际上，送到了4号卡（进程是在4号卡上建立的）**问题：**命令行参数指定的是4号卡，但实际却总是在0号卡建立进程。自己指定显卡即可，也可以在命令行添加一遍，不冲突，但要一样的。

Keras/pytorch在训练时指定gpu以及多gpu训练

Recusant

01-27

5764

首先在终端输入命令nvidia-smi查看gpu运行状态可见在服务器存在两台1080ti显卡，编号分别为0,1。在实际情况中选择一块无人使用的显卡进行训练最为合适。另外在训练过程中TensorFlow和Keras都是默认占满全部显存，多模型在一张卡训练时容易造成爆显存的情况，所以采用限制显存大小的方法。 import tensorflow as tf import keras.back...

PYTorch训练和推理指定GPU

黎国溥

03-21

5527

在训练模型和推理测试时，电脑中有多个显卡，需要指定某个GPU，以免出现显出不够问题。

【Hugging Face】transformers 库中的 TrainingArguments：训练参数管理类，控制 Trainer 的训练行为

彬彬侠的博客

03-09

1573

TrainingArguments是Hugging Face transformers库中的一个训练参数管理类，用于控制Trainer的训练行为，如批量大小、学习率、日志记录、保存策略、多GPU训练、混合精度等。TrainingArguments用于管理Trainer的训练参数，让Hugging Face训练更简单。支持批量大小、学习率、日志记录、评估策略、多GPU训练。减少手动管理超参数的工作量，可以通过Trainer直接调用。适用于NLP、CV、语音等任务，可以高效微调Transformer模型。

pytorch 指定gpu训练与多gpu并行训练示例

12-23

指定一个gpu训练的两种方法： 1.代码中指定 import torch torch.cuda.set_device(id) 2.终端中指定 CUDA_VISIBLE_DEVICES=1 python 你的程序其中id就是你的gpu编号二. 多gpu并行训练： torch.nn.DataParallel...

精选资源

pytorch使用指定GPU训练的实例

01-01

虽然pytorch提供了指定gpu的几种方式，但是使用不当的话会遇到out of memory的问题，主要是因为pytorch会在第0块gpu上初始化，并且会占用一定空间的显存。这种情况下，经常会出现指定的gpu明明是空闲的，但是因为第0...

深度学习强制设置GPU_id

带鱼工作室的博客

10-17

3596

深度学习强制修改gpu id

pytorch训练时指定显卡

m0_61899108的博客

04-28

1万+

1. 利用CUDA_VISIBLE_DEVICES设置可用显卡在CUDA中设定可用显卡，一般有2种方式： (1) 在代码中直接指定 import os os.environ['CUDA_VISIBLE_DEVICES'] = gpu_ids (2) 在命令行中执行代码时指定 CUDA_VISIBLE_DEVICES=gpu_ids python3 train.py 如果使用sh脚本文件运行代码，则有3种方式可以设置 (3) 在命令行中执行脚本文件时指定： CUDA_VISIBLE

NLP文档挖宝(3)——能够快速设计参数的TrainingArguments类

天才小呵呵的博客

05-29

8186

整个任务中的调参“源泉”就是这个TrainingArguments类，这个类是使用dataclass装饰器进行包装，然后再利用HfArgumentParser进行参数的解析，最后获得了对应的内容。这个包可以调的参数有很多，有用的也有很多，所以还是有必要一起看一下的。

训练网络时指定gpu显卡

Cheny的博客

08-23

1223

查看有哪些可用的gpu nvidia -smi 实时查看gpu信息1代表每1秒刷新一次 watch -n 1 nvidia -smi 指定使用的gpu import os # 使用第一张与第三张GPU卡 os.environ["CUDA_VISIBLE_DEVICES"] = "0,3" ...

在训练模型时如何指定具体哪一（多）块GPU显卡进行训练任务

大西瓜不甜的博客

04-16

9810

在用tensorflow深度学习模型训练时，假设我们在训练之前没有指定具体用哪一块GPU进行训练，则默认的是选用第0块GPU来训练我们的模型。如果你的电脑有多块GPU的话，其它几块GPU的也会显示被占用。 &...

TensorFlow学习笔记[二]——在训练模型时如何指定具体哪一（多）块GPU显卡进行训练任务

热门推荐

volcano_Lin 的博客

07-18

1万+

在用tensorflow深度学习模型训练时，假设我们在训练之前没有指定具体用哪一块GPU进行训练，则默认的是选用第0块GPU来训练我们的模型。如果你的电脑有多块GPU的话，其它几块GPU的也会显示被占用。有些时候，我们希望可以通过自己指定一块或者几块GPU来训练我们的模型，而不是用这种系统默认的方法。接下来将介绍三种指定GPU训练的方法。我们...

为什么Python无法指定使用哪块GPU？如果试了两种方式都无效，那可能是因为序号不对应

weixin_43955436的博客

05-10

1675

直接上结论：指定的GPU序号和真实的序号并不是一一对应。代码中指定优先级高于shell指定 Pycharm全局搜索代码有没有其他地方有指定GPU CTRL+SHIFT+F (Windows) Command+Shift+F (Mac) 炼丹过程中，尝试了两种方式在代码中指定GPU，发现都没有正确指定，佛了。。全局搜索项目代码，其他没有任何地方指定了GPU。方式1 – 终端： CUDA_VISIBLE_DEVICES=0 python code.py 方式2 – 代码内部指定： import

pytorch使用过程中指定显卡训练

zhingzt的博客

09-18

3461

目录 1 指定单块显卡进行训练 1.1 默认的0号显卡 1.2 使用其他显卡，例如1号或其他

【人工智能】【深度学习】④ Stable Diffusion核心算法解析：从DDPM到文本生成图像的飞跃

xiezhiyi007的专栏

12-02

1378

Stable Diffusion是AI绘画领域的革命性技术，其核心基于扩散模型：通过"拆快递"式的噪声添加（前向扩散）和"拼乐高"式的逐步去噪（逆向过程），实现从噪声到图像的构建。本文用快递分拣、乐高拼装等生活化类比，解析CLIP文本编码器（翻译文字指令）、VAE（图像压缩）和U-Net（智能拼图）三大核心组件。相比传统GAN模型，它避免模式崩溃，提升语义理解能力，成为文本生成图像的黄金标准。通过代码与架构图解析，帮助开发者快速掌握这项技术的核心逻辑。

深度学习1.4-pytorch安装