Windows下Pytorch训练gpu占用率过低的问题

最新推荐文章于 2024-12-27 09:25:11 发布
最新推荐文章于 2024-12-27 09:25:11 发布
阅读量961 收藏 4
点赞数
分类专栏： pytorch 文章标签： pytorch 深度学习 人工智能 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_62586778/article/details/129625848
版权
在尝试使用个人电脑进行训练时遇到CPU和GPU过热问题，调整PytorchDataLoader的num_workers和pin_memory参数，发现num_workers设为2时出现错误，只能设为0。了解到在Linux系统中可以支持多个子进程加载数据，而Windows不支持。最终决定改用公司服务器进行训练。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

今天用自己电脑跑训练，发现以下问题，cpu冒大烟，gpu抽大烟，动都不带动一下。

查了很多，基本围绕num_workers, pin_memory。其中pin_memory设置了true，num_workers到2就broken pipe，只能设置0。

后来才知道！linux系统中可以使用多个子进程加载数据，windows系统里是不可以的。

参考Pytorch DataLoader中的num_workers (选择最合适的num_workers值)_dataloader num_workers_堇禤的博客-优快云博客

准备用公司服务器跑了，自己电脑果然只能测通和不通。

最低0.47元/天 解锁文章
深度学习pytorch训练时候为什么GPU占比很低
xiamu_CDA的博客
10-24 1911
在深度学习领域，PyTorch 是一个非常受欢迎的框架，因其灵活性和易用性而备受青睐。然而，许多用户在使用 PyTorch 进行模型训练时，经常会遇到一个令人头疼的问题：GPU 占比很低。这不仅影响了训练效率，还可能导致资源浪费。本文将深入探讨这一问题的原因，并提供解决方案。
pytorch模型训练的时候 GPU 使用率不高
爱在深秋
05-27 1万+
前言： 博主使用的显卡配置为：2*RTX 2080Ti，最近在训练的时候，监控显卡的资源使用情况发现， 虽然同是使用了两张显卡，但是每张显卡的使用率很不稳定，貌似是交替使用，这种情况下训练的速度是很慢的，为了解决 下面是解决这个问题的一些过程。 1. CPU和内存的使用情况 2. 用linux命令查看显卡资源的使用情况 watch -n 1 nvidia-smi 模型执行预测阶段 使用显卡0，但是也只有51%的使用率。 模型在训练阶段，同时使用两张显卡，发现里利用率也不高，我截取的最
PyTorch GPU利用率为0%（很低）
qq_45831414的博客
01-12 1万+
GPU core：CUDA core, Tensor Core ,integer, FP32 core，INT32 core等。以及 CUDA 驱动程序和兼容的 GPU 是否已正确安装且可以被 PyTorch 使用。可以反馈出GPU内核在过去的采样周期中一个或多个内核在 GPU 上执行的。安装的是 CPU 版本的 PyTorch，而非 GPU 版本。在运行代码的环境中，尽管系统中有合适的硬件和软件配置，没有安装 CUDA 或安装的 CUDA 版本不正确。硬件中没有支持 CUDA 的 NVIDIA GPU。
PyTorch GPU 利用率低？常见原因分析及优化
热门推荐
idol24的博客
07-16 2万+
前言GPU 利用率低，严重浪费 GPU 资源的问题，经过对一些实例分析后，总结这篇文档，希望能对使用 GPU 的同学有些帮助。转载自 腾讯技术工程一、GPU 利用率的定义本文的 GPU 利用率主要指 GPU 在时间片上的利用率，即通过 nvidia-smi 显示的 GPU-util 这个指标。统计方式为：在采样周期内，GPU 上面有 kernel 执行的时间百分比。二...
深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析
anshiquanshu的专栏
01-18 1万+
在深度学习模型训练过程中，在服务器端或者本地pc端，输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU）。往往会发现很多问题，比如，GPU内存占用率低，显卡利用率低，CPU百分比低等等。接下来仔细分析这些问题和处理办法。 1. GPU内存占用率问题 这往往是由于模型的大小以及batch size的大小，来影响这个指标。当你发下你的GPU占用率很小的时候...
Pytorch GPU利用率低
ccbrid的博客
05-19 1085
GPU 利用率低常见原因分析及优化 - 知乎 GPU利用率低的解决办法_Data_Designer的博客-优快云博客_gpu利用率低 https://www.youkuaiyun.com/tags/NtjaIg1sNTk3NjMtYmxvZwO0O0OO0O0O.html
pytorch 限制GPU使用效率详解(计算效率)
09-16
在PyTorch和TensorFlow中，我们可能会遇到GPU利用率低且周期性变化的问题。这种现象通常是由于GPU在等待CPU处理数据导致的。 在PyTorch中，可以通过使用`torch.utils.data.DataLoader`并设置`num_workers`参数来...
深度学习pytorch训练时候为什么GPU占比很低？
CDA_Happy的博客
12-27 2122
在深度学习领域，GPU的使用几乎是标配。然而，很多初学者在使用PyTorch进行模型训练时，经常会发现GPU的利用率并不高，这让人感到困惑。本文将深入探讨这一现象的原因，并提供一些解决方案，帮助你充分利用GPU资源，提高训练效率。
pytorch训练时gpu利用率低_pytorch多gpu并行训练
weixin_32601937的博客
02-02 2618
目录目录pytorch多gpu并行训练1.单机多卡并行训练1.1.torch.nn.DataParallel1.2.如何平衡DataParallel带来的显存使用不平衡的问题1.3.torch.nn.parallel.DistributedDataParallel2.多机多gpu训练2.1.初始化2.1.1.初始化backend2.1.2.初始化init_method2.1.2.1.使用TCP初始...
pytorch深度学习框架-训练模型时GPU占用率太低怎么办？如何尽量榨干我们的GPU性能？
小坏蛋的博客
03-25 1万+
pytorch深度学习框架-训练模型时GPU占用率太低怎么办？如何尽量榨干我们的GPU性能？
windows10下pytorch的GPU利用率低，占用率低
stay_zezo的博客
08-05 2万+
方法1：window10的任务管理器显示的gpu利用率数据有可能是错的，存在bug, 博主就被这个数据误导了。所以，首先从nvidia-smi或其他软件（如，Gpu-Z等）看gpu真实的利用率。 方法2、第一种情况排除后，就要考虑模型太小，batch-size太小。将改变模型结构，或将batch-size调大。 方法3、如果第二种情况的gpu利用率还是很低，而cpu利用率很高，那瓶颈应该是数据加载的问题，gpu处理太快，cpu经常处于传输数据的过程。所以，启动多线程加载数据，num_worker可以设置
pytorch 细节 多GPU卡训练 一个可在windows单GPU独立运行的DDP
ResumeProject的博客
03-25 2613
解决方法一： 删除同名的jar依赖 解决方法二： 在web.xml中添加 java异常 java.lang.NoClassDefFoundError: org/slf4j/LoggerFactory下载地址 Caused by: org.springframework.beans.factory.BeanCreationException: Error creating bean with name ‘org.springframework.aop.support.DefaultBeanFacto
【模型训练】提高pytorch训练时GPU利用率
weixin_44984705的博客
12-29 1947
深度学习模型训练过程经常看到GPU利用效率不高，以下是一些提高GPU利用率常用的方式。对于提高GPU利用率能有一定帮助，但要提高到100%比较难，毕竟GPU利用率低本质上是因为GPU与CPU通讯等原因，导致GPU 在程序运行的某些时间处在空闲状态,没有被充分利用起来。
Pytorch训练时GPU利用率为0或很低
shimmer_ghq的博客
07-10 6676
pytorch训练时，显存明显上去了，模型和数据都在gpu上，但GPU利用率仍为0%
pytorch 提高gpu利用率
ARYAD的博客
04-08 7069
pytorch跑Unet代码，gpu利用率在0%-20%闪现，主要问题是GPU一直在等cpu处理的数据传输过去。利用top查看cup的利用率也是从0省道100%且显然cup的线程并不多，能处理出的数据也不多。在一般的程序中，除了加载从dataloader中数据和model的运行需要gpu，其余更多的dataset、dataloader、loss的计算和日志的输出很多部分都需要cup的计算。 所以，可以提升的方面包括 从class dataset的优化、dataloader的优化和其他部分代码的优化。当然代码
pytorch gpu设置
fly
07-28 1万+
1. 显示当前GPU使用情况 nvidia-smi 2. 指定gpu使用 2.1 终端指定 CUDA_VISIBLE_DEVICES=2 python xxx.py 2.2 代码中指定 import os os.environ["CUDA_VISIBLE_DEVICES"] = "2"
pytorch中提高GPU显存利用率方法
qq_69854365的博客
03-06 1753
在torch框架下，GPU显存的合理利用方式。
pytorch的gpu利用率低
最新发布
03-19
### 提高PyTorch程序的GPU利用率的方法 在处理PyTorch中的GPU利用率较低的问题时，可以从多个方面入手优化。以下是几个关键策略： #### 1. 调整数据加载方式 如果数据加载成为瓶颈，则可能会导致GPU闲置时间增加。因此，建议使用`DataLoader`并启用多线程数据预取功能以加速数据传输过程[^1]。 ```python train_loader = torch.utils.data.DataLoader( dataset=train_dataset, batch_size=64, shuffle=True, num_workers=8, # 使用更多CPU核心来加快数据准备速度 pin_memory=True # 将数据复制到页锁定内存中，从而更快地传递给GPU ) ``` #### 2. 设置可见的GPU设备数量 当需要控制具体哪些GPU被用于计算任务时，可以通过环境变量`CUDA_VISIBLE_DEVICES`指定可用的GPU列表。这有助于合理分配硬件资源，并减少不必要的竞争[^2]。 ```python import os os.environ['CUDA_VISIBLE_DEVICES'] = '0,3' # 只允许访问第0号和第3号GPU ``` #### 3. 手动管理显存缓存 为了防止因显存不足而导致性能下降，在适当时候调用`torch.cuda.empty_cache()`函数清理未使用的缓存空间是非常必要的措施之一[^3]。 ```python if torch.cuda.is_available(): device = torch.device('cuda') else: device = torch.device('cpu') model.to(device) for epoch in range(num_epochs): ... del inputs, targets, outputs, loss # 删除不再需要的对象 if torch.cuda.is_available(): torch.cuda.empty_cache() # 清理掉无用的临时张量占用的空间 ``` 通过上述方法的应用，能够有效提升PyTorch应用程序运行期间对于图形处理器的有效利用效率。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值