为什么我在gpu上训练模型但是gpu利用率为0且运行速度还是很慢？

火星种萝卜 火星种萝卜 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 3.6k累计阅读 3.7k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄19年
关注
转载 最新推荐文章于 2026-05-01 09:07:26 发布 3.6k 阅读 AI 写同款· GEO 优化 ›
YOLOv5训练速度慢的一些解决方法 针对自建数据集，yolov5模型训练速度很慢的可能原因和解决方法。 阅读详情

检查cudnn是否安装
检查你是不是有集成显卡或第二个显卡
batchsize是否太小

https://ask.youkuaiyun.com/questions/767461

收录于
keras

当前文章被收录于：

keras
29 篇文章 0 人学习
订阅专栏 查看详情
原文链接：https://ask.youkuaiyun.com/questions/767461>
GPU利用率偏低怎么办？神经网络训练速度太慢怎么办？ 在我们深度学习算法训练中最长出现的就是 GPU利用率偏低，甚至经常出现 nvidia-smi一打开，GPU利用率为0%，隔很久才跳动一次，这究竟是为什么呢？笔者为你一一揭晓答案！做到这些，能够解决我们训练中 99%的 训练速度慢问题， 和 GPU利用率偏低问题。喜欢文章，关注公众号：人工智能私房菜。 阅读详情

相关推荐

训练模型时 遇到速度过慢时的深思 & 速度提升 （From GPU & CPU）

训练模型时 遇到速度过慢时的深思 & 速度提升 （From GPU & CPU）

weixin_45646640的博客 5451

Pytorch CUDA GPU运算模型训练缓慢的一个可能原因

今天用GPU跑模型的时候，发现训练速度奇慢无比… 第一反应是检查GPU的利用率，输入： nvidia-smi 检查风扇利用率，GPU温度以及GPU利用率(框出来的地方)。可以看到风扇正常在转，温度也不高，利用率甚至为0。那么这个时候就比较疑惑了，如果是上述这三个问题倒比较好去针对性的解决。 这个时候去检查了下CPU利用率，输入： top 可以发现CPU占用率到了99.3%…这就导致实际上只要涉及到CPU运算，就基本上卡死，导致整体模型训练不动，造成"GPU可能有问题"的假象。 ...

xiongxyowo的博客 1万+

训练PyTorch模型时，GPU 利用率低且训练速度慢...如何解决？

🏆本文收录于《全栈Bug调优(实战版)》专栏，主要记录项目实战过程中所遇到的Bug或因后果及提供真实有效的解决方案，希望能够助你一臂之力，帮你早日登顶实现财富自由🚀；同时，欢迎大家关注&&收藏&&订阅！持续更新中，up！up！up！！ 备注：部分问题/疑难杂症搜集于互联网。

**My Coding Family** 2477

【深度学习】踩坑日记：模型训练速度过慢，GPU利用率低

模型训练速度过慢，GPU利用率低怎么办？

m0_60721065的博客 1万+

强化学习技巧四：模型训练速度过慢、GPU利用率较低，CPU利用率很低问题总结与分析。

1.PyTorchGPU利用率较低问题原因： 在服务器端或者本地pc端， 输入nvidia-smi 来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU） 1.1 GPU内存占用率问题 这是由于模型的大小以及batch size的大小，来影响这个指标。 GPU的内存占用率主要是模型的大小，包括网络的宽度，深度，参数量，中间每一层的缓存，都会在内存中开辟空间来进行保存，所以模型本身会占

丨汀、的博客 1万+

新手避坑指南：从GEO数据库下载单细胞测序数据的5个关键步骤（附实操截图）

本文为单细胞测序数据下载新手提供5个关键避坑步骤，涵盖数据搜索准备、样本量评估、文件选择决策、元数据诊断及高效下载技术。通过实操截图和代码示例，帮助研究者快速锁定GEO数据库中的优质单细胞测序数据，避免常见错误。

weixin_30296405的博客 667

Tensorflow使用训练好的模型进行测试，发现计算速度越来越慢

实验时要对多个NN模型进行对比，依次加载直到第8个模型时，发现运行速度明显变慢而且电脑开始卡顿，查看内存占用90+%。 原因：使用过的NN模型还会保存在内存，继续加载一方面使新模型加载特别特别慢，另一方面是模型计算速度也会下降很多。 解决方法：加载新模型之前把旧的模型撤掉： tf.reset_default_graph() reset后加载和计算速度明显提升，亲测有效 参考： ...

weixin_34239169的博客 2762

第一弹：llama.cpp编译

1.编译llama.cpp命令行（电脑版本）；2.交叉编译安卓命令行版本。

joedan0104的专栏 1万+

notebooks写python步骤_JupyterNotebook设置Python环境的方法步骤

{"moduleinfo":{"card_count":[{"count_phone":1,"count":1}],"search_count":[{"count_phone":4,"count":4}]},"card":[{"des":"阿里云机器学习平台PAI(Platform of Artificial Intelligence)，为传统机器学习和深度学习提供了从数据处理、模型训练、服务部署...

weixin_39713578的博客 299

《阵列信号处理及MATLAB实现》阵列响应矩阵(均匀线阵、均匀圆阵、L型阵列、平面阵列和任意阵列)

《阵列信号处理及MATLAB实现》内容总结，如需阅读更详细内容请购买正版书籍。

APPLECHARLOTTE的博客 1万+

嵌入式八股文-ARM

嵌入式八股文总结（ARM篇）-优快云博客现象：I2C死锁就是时钟线SCL一直处于高电平，数据线SDA一直处于低电平。从机拉低数据线SDA时（发送应答信号给主机时或发送数据0时）主机意外复位，主机复位后时钟线SCL就为高电平了，此时，SCL为高电平而SDA为低电平，主机就以为有其他设备占有了总线，而SCL为高电平时 数据位SDA不允许有变化，意思是：主机就一直等待时钟线SDA拉高，而从机就一直等待时钟线SCL拉高 就造成了死锁的现象。解决方法：1.选择带有复位功能的从设备，复位后SDA被拉高。

m0_63127436的博客 1259

记录下跑深度学习遇到的问题：模型跑的很慢，GPU利用率低

记录下跑深度学习遇到的问题：模型跑的很慢，GPU利用率低

qq_40874927的博客 4859

qcom bypass node介绍

介绍qcom bypass node，以及如何让其生效

haodada1226的博客 2043

深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析

在深度学习模型训练过程中，在服务器端或者本地pc端，输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU）。往往会发现很多问题，比如，GPU内存占用率低，显卡利用率低，CPU百分比低等等。接下来仔细分析这些问题和处理办法。 1. GPU内存占用率问...

是否龍磊磊真的一无所有的博客 16万+

ZYNQ AXI DMA零拷贝实战：用mmap在用户空间玩转高速数据流（基于Petalinux 2020.2）

本文详细介绍了在ZYNQ平台上使用AXI DMA和mmap技术实现零拷贝数据传输的实战方法。基于Petalinux 2020.2环境，通过内核配置、设备树修改和用户空间库设计，大幅提升PS与PL之间的数据传输效率，特别适用于高清视频流、高速AD采样等高性能场景。

weixin_27956639的博客 365

JPA - @MappedSuperclass - 基类注解

目录前言代码示例 前言 @MappedSuperclass注解一般作为基类的注解，表眀该类是映射的超类，继承于它的子类实体在映射时会自动添加到子类实体的对应数据库表中，用于共同的属性代码复用和模型分离。 代码示例 BaseEntity.java import lombok.Getter; import lombok.Setter; import javax.persistence.MappedSuperclass; import java.util.Date; @Getter @Setter @Ma

Maggieq8324的博客 2065

GPU显存占满利用率GPU-util为0

1. ????问题描述 运行程序的时候提醒显存不够，查看了一下nvidia-smi，确实显存占满了，但是GPU-Util，gpu利用率有三个都是0，只有一个是56% 搜索后发现这个现象的原因还比较普遍，但是似乎没有几个可以很好解决这个问题， 参考： 脚本之家的文章：Pytorch GPU内存占用很高,但是利用率很低如何解决， 转载自优快云博客：Pytorch GPU内存占用很高，但是利用率很低， ✅总结自优快云博客：深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且

啷个哩个啷 4万+

Cesium实战：3DTiles模型分层分户抽屉效果实现全攻略（附完整代码）

本文详细解析了在Cesium中为3DTiles模型实现分层分户抽屉效果的核心原理与完整代码。通过“主-副双模型”策略，结合属性过滤与矩阵变换，开发者能够创建出可交互、可探索的动态建筑可视化效果，适用于数字孪生、智慧城市及BIM可视化等场景。

d6e7f8g9h的博客 293

使用GPU训练tensorflow/keras模型，Memory-Usage占用高，GPU-Util利用率低。提升GPU-Util利用率，提升模型训练速度

win11 系统，已安装 CUDA-11.2、cuDNN-8.1、tensorflow_gpu-2.6.0 以及 keras-2.6.0。但我在运行如下代码训练模型时，通过任务管理器看到 cpu 占用 20%左右，gpu占用为0%。我以为此时仍是 cpu 在训练模型（其实已经是 gpu 在训练模型了）。 history = model.fit( train_generator, steps_per_epoch=100, epochs=30, validation_data=v

Glfsir的博客 5704

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面，电脑运行连游戏界面都一样大小，很怀旧，很真实，（英文版）强烈推荐，很小的文件，很难才找到的。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章，有部分习题没有答案，全英文复分析阿尔福斯(Ahlfors) 第三版答案

tensorflow调用了GPU但几乎没用上，导致训练速度很慢的原因

## .shuffle(buffer_size=10000) 和.prefetch(buffer_size=tf.data.AUTOTUNE)组合时，训练很快。### .shuffle(buffer_size=10000) 和.prefetch(buffer_size=tf.data.AUTOTUNE)组合时，训练很快。### 只有.prefetch(buffer_size=tf.data.AUTOTUNE) 和.cache()的组合时，训练很慢。​​越大，随机性越好，但内存占用越高​​。

weixin_61747886的博客 1513

IEM模型，地表粗糙度模拟

利用微波反演土壤水分时候，利用IEM模型可以实现对随机地表的模拟

（转）深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析

深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析 置顶 是否龙磊磊真的一无所有 ...

m0_37192554的博客 4342

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

tf2.0——为什么安装了tensorflow-gpu，结果还是用CPU在训练？

tf2.0——为什么安装了tensorflow-gpu，结果还是用CPU在训练？前言安装步骤为什么安装的是GPU版本训练时还是用的CPU？ 前言 最近在学习台大李宏毅老师的ML/DL的网课，学到CNN那一章想着做一下作业3（用CNN实现一个11种食物分类的模型），模型搭建好后跑了一下，结果要一个多小时才能出结果，而且准确率还不是很高（53%左右），遂想修改下模型，但实在是耗不起时间（毕竟我训练模型的那一个多小时都在打王者）。 所以决定下个GPU版本的tensorflow来训练模型，期间踩了很多坑，写这篇博客

syh的技术记录 1万+
上一篇： To call `multi_gpu_model` with `gpus=2`, we expect the following devices to be available: [‘/cpu:0‘,
下一篇： 2020-08-23训练过程--Batchsize选择多大对最优参数的影响
点赞 1
评论 2
书签 书签 1
火星种萝卜
火星种萝卜
博客等级 码龄19年 438粉丝 304原创
+ 关注 专栏目录 订阅专栏
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值