caffe Data layer prefetch queue empty重启

最新推荐文章于 2021-09-02 09:59:00 发布
原创 最新推荐文章于 2021-09-02 09:59:00 发布 · 2.5k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文针对CPU慢于GPU的问题，提出了三种改进方案：使用lmdb替代txt文件提高数据读取速度；减少IO操作频率；以及避免使用test.txt文件。通过实践，作者最终选择升级硬件配置作为解决方案。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本问题已解决。http://blog.youkuaiyun.com/zzchust/article/details/49279055此文综合引用分析了原因和解决方法。提出了三种引用方法： 
1 使用lmdb替换txt文件，加快数据读取速度； 
2 避免IO被频繁使用； 
3 可以考虑不加入test.txt
其中：1我没有试过，2小白表示不知道怎样避免，3之前也没使用test.txt

于是，分析改文中提出“CPU慢于GPU”，我用了最简单粗暴的办法，重新装了一台电脑，换了性能更好的CPU和主板。

http://bbs.youkuaiyun.com/topics/391894055

http://bbs.youkuaiyun.com/topics/391841224

第5章 Data Prefetch
sailing_w的专栏
02-12 1039
处理器与存储器子系统运行速度的失配，使得存储器层次结构多次引起关注，处理器系统使用了更大规模的Cache。在很多处理器系统中，LLC的大小已达十几兆字节。随着工艺的提高，使用更大规模的Cache容量，并非遥不可及。只是Cache容量依然远不能与主存储器容量增加的速度相比。在某些应用中，即便将现有的Cache容量提高一倍也于事无补。 存储器访问在最后一级Cache中Miss后，指令流水可能会被迫
Caffe框架源码剖析(3)—数据层DataLayer
Rolin的专栏
09-13 4276
Caffe网络正向传导时，首先进行的是DataLayer数据层的传导。该层从文件读取数据，加载至它的上一层卷积层。反向传导时，因为数据层不需要反传，所以它的Backward_cpu()和Backward_gpu()都是空函数。下面看一下DataLayer类图关系。
Caffe: Data layer prefetch queue empty
热门推荐
PlusTang
02-14 1万+
我是利用ImageDataLayer直接从图片读入进行训练，开始训练时连续出现这个，虽然不影响训练，好奇就查了一下问题描述:训练过程中出现blocking_queue.cpp:50] Data layer prefetch queue empty**原因:**CPU数据读入慢于GPU计算，导致GPU处于空闲，使得计算速度下降，迭代时间间隔扩大。nvidia-smi显示为：GPU功率不断大幅度变化，G
SSD Caffe: Data layer prefetch queue empty
weixin_41057320的博客
07-17 3032
问题描述：训练过程中出现blocking_queue.cpp:50] Data layer prefetch queue empty 原因：SSD训练慢的原因是 在生成LMDB文件时没有将图片转化为300*300分辨率大小 所以在训练网络时需要转换图片分辨率 这样就造成了数据输入层预存队列为空 GPU一直在等待数据中 所以造成了训练异常缓慢。（图片resize是在CPU上运行的，CPU数据读入慢...
caffe： Data layer prefetch queue empty
GL3_24的博客
04-23 1633
本人在配置有GTX 1080ti 显卡的服务器上训练GoogLenet网络时在日志中出现了一句话：Data layer prefetch queue empty 因为之前训练的时候并没有见到这句话，因此初步认为是一个错误。但是过了一段时间之后，发现程序还在继续运行，只是感觉相对没有出现这句话训练时的速度较慢。 因此就在网上查询问题出现的原因。了解到原因是：CPU数据的读入数据慢于GPU计算（出现...
如何绘制caffe网络训练曲线
yhl_leo
06-28 8220
当我们设计好网络结构后，在神经网络训练的过程中，迭代输出的log信息中，一般包括，迭代次数，训练损失代价，测试损失代价，测试精度等。本文提供一段python代码，简单讲述如何绘制训练曲线。
linux黑屏重启 caffe 训练深度学习网络crfasrnn deeplab
Xmo_jiao的博客
08-31 2141
电脑配置： 型号：t3610 系统：Ubuntu14.04 GPU：GTX980Ti（显存6G） 电源：680W1.deeplab v2网络训练时出现Data layer prefetch queue empty，几秒后Ubuntu黑屏自动重启 2 crfasrnn 网络训练是电脑运行到Iteration 0, Testing net (#0)就自动重启 别人的解决办法： http:/
caffe-ssd的编译、python接口的设置以及训练模型
weixin_44566896的博客
05-08 553
caffe-ssd的编译、python接口的设置以及采用VOC数据集训练模型 1、
UBUNTU18.04+CUDA10.0+CUDNN+caffe-ssd搭建+在caffe-ssd训练时碰到的两个问题，2019.9.5踩坑总结
yiyifeng6的博客
09-09 2202
UBUNTU18.04+CUDA10.0+CUDNN+caffe-ssd搭建踩坑2019.9.5总结CUDA10.0+cudnn安装安装cuda10.0安装cudnnCaffe框架安装下载Caffe源码修改配置文件Caffe框架安装在sudo python2.7 ssd_pascal.py时碰到的报错及解决方法 CUDA10.0+cudnn安装 安装cuda10.0 sudo dpkg -i cu...
Data_layers的实现细节代码注释
03-28
http://blog.youkuaiyun.com/xizero00/article/details/50999630#t2 配套的代码注释 caffe代码阅读8: Data_layers的实现细节（各个数据读取层的实现细节） 2016.3.25-28
SSD出现Caffe: Data layer prefetch queue empty的问题？
CPFelix的博客
08-08 370
参考： https://www.zhihu.com/question/263929129 已解决.20200808
【高阶】PREFETCHh Prefetch Data Into Caches
大隐隐于野
09-02 371
PREFETCHh Prefetch Data Into Caches Opcode Mnemonic Description 0F 18 /1 PREFETCHT0 m8 Move data from m8 closer to the processor using T0 hint. 0F 18 /2 PREFETCHT1 m8 Move data from m8 closer to the processor using T1 hint. 0F 18
CAFFE源码学习笔记之八-阻塞队列blocking_queue
sinat_22336563的博客
04-05 1153
一、前言 我的理解是在CAFFE中，数据的产生即从存储系统中读取出来和数据的消耗即被读入数据层进行计算必然是异步的，也就是生产者和消费者模型。所以才有了双阻塞队列来实现数据在数据层与存储系统之间的同步。为什么使用队列？ 因为图像数据只需要按照固定的顺序一步一步输入即可，不存在随机访问，不存在随机写入，同时queue底层是由链式表构成的，其访问速度不会随着元素的增加而增加。如何实现多线程下的阻塞？
Caffe学习系列(2)：数据层及参数
weixin_34096182的博客
12-23 516
要运行caffe，需要先创建一个模型（model)，如比较常用的Lenet,Alex等， 而一个模型由多个屋（layer）构成，每一屋又由许多参数组成。所有的参数都定义在caffe.proto这个文件中。要熟练使用caffe，最重要的就是学会配置文件（prototxt）的编写。 层有很多种类型，比如Data,Convolution,Pooling等，层之间的数据流动是以Blobs的方式进行。 ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值