Keras学习︱训练时显存out of memory的解决办法——fit_generator函数

最新推荐文章于 2020-12-20 06:48:27 发布

原创

最新推荐文章于 2020-12-20 06:48:27 发布 · 3.2k 阅读

5 ·

CC 4.0 BY-SA版权

在Keras中，当使用model.fit()进行训练导致显存不足时，可以改用fit_generator函数。fit_generator允许通过自定义的generator函数分批次加载数据，避免一次性加载全部数据造成内存溢出。此方法要求提供一个生成器，在每次迭代时返回一批数据，以降低内存压力。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

keras默认情况下用fit方法载数据，就是全部载入。换用fit_generator方法就会以自己手写的方法用yield逐块装入
问题描述：建立好model之后，用model.fit()函数进行训练，发现超出显存容量
问题分析：fit()函数训练时，将全部训练集载入显存之后，才开始分批训练。显然很容易就超出了显存容量
解决办法：用fit_generator函数进行训练

fit_generator函数将训练集分批载入显存，但需要自定义其第一个参数——generator函数，从而分批将训练集送入显存

def data_generator(data, targets, batch_size):
    batches = (len(data) + batch_size - 1)//batch_size

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Britesun

关注关注

1
点赞
踩
5

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

Keras fit_generator函数

花开流年

09-24

1996

问题描述：建立好model之后，用model.fit()函数进行训练，发现超出显存容量(一共有12G) 问题分析：fit()函数训练时，将全部训练集载入显存之后，才开始分批训练。显然很容易就超出了12G 解决办法：用fit_generator函数进行训练 fit_generator函数将训练集分批载入显存，但需要自定义其第一个参数——generator函数，从而分批将训练集送入显存。 def data_generator(data, targets, batch_size): batches = (

python神经网络模型调用后预测值不变_我的Keras使用总结（1）——Keras概述与常见问题整理,Python机器学习笔记：利用Keras进行分类预测,Python机器学习笔记：使用Keras进...

weixin_39932838的博客

12-05

1731

今天整理了自己所写的关于Keras的博客，有没发布的，有发布的，但是整体来说是有点乱的。上周有空，认真看了一周Keras的中文文档，稍有心得，整理于此。这里附上Keras官网地址：下面回顾一下自己以前写的有关Keras的博客：首先是上面两篇博客，这两篇写出来，其实是整理笔记，单纯的学习一下基础的回归和分类，使用Keras创建一个简单的回归问题的神经网络模型和多类分类的模型。使用了最经典的回归数据波...

参与评论您还未登录，请先登录后发表或查看评论

完美解决TensorFlow和Keras大数据量内存溢出的问题

12-17

内存溢出问题是参加kaggle比赛或者做大数据量实验的第一个拦路虎。以前做的练手小项目导致新手产生一个惯性思维——读取训练集图片的时候把所有图读到内存中，然后分批训练。其实这是有问题的，很容易导致OOM。现在内存一般16G，而训练集图片通常是上万张，而且RGB图，还很大，VGG16的图片一般是224x224x3，上万张图片，16G内存根本不够用。这时候又会想起——设置batch，但是那个batch的输入参数却又是图片，它只是把传进去的图片分批送到显卡，而我OOM的地方恰是那个“传进去”的图片，怎么办？解决思路其实说来也简单，打破思维定式就好了，不是把所有图片读到内存中，而是只把所有图片的

【Keras】训练时显存out of memory的解决办法——fit_generator函数

chenghtao的博客

08-29

1万+

问题描述：建立好model之后，用model.fit()函数进行训练，发现超出显存容量(一共有12G) 问题分析：fit()函数训练时，将全部训练集载入显存之后，才开始分批训练。显然很容易就超出了12G 解决办法：用fit_generator函数进行训练fit_generator函数将训练集分批载入显存，但需要自定义其第一个参数——generator函数，从而分批将训练集送入显存def data

Pytorch训练out of memory

Bear_Kai的专栏

04-01

1148

两类内存报错： RuntimeError: cuda runtime error (2) : out of memory ... RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB ... 对于第一种：pytorch版本升级、避免中间变量累积、pin_memory置False … 对于第二种：batchsize调小、选小模...

GPU在model.fit时存在的问题

Be busy living or busy dying

06-03

1940

文章目录问题解决方法参考来源链接问题解决方法添加下面代码：参考来源链接 https://blog.youkuaiyun.com/tsyccnh/article/details/102938368

Keras 循环训练模型跑数据时内存泄漏的问题解决办法

qq_32535377的博客

01-29

1万+

在使用完模型之后，添加这两行代码即可清空之前model占用的内存： import tensorflow as tf from keras import backend as K K.clear_session() tf.reset_default_graph()

Keras - GPU ID 和显存占用设定步骤

09-16

在使用Keras进行深度学习模型训练时，合理配置GPU ID和显存管理是提升效率、避免资源浪费的关键。本文将详细介绍如何在Keras中设定GPU ID以及如何控制GPU的显存占用。首先，我们来讨论如何设定GPU ID。在多GPU环境...

Keras学习 Sequential与Model模型 keras基本结构功能

奔跑的小仙女

07-15

3219

人家写的特别好，保存下来转：https://www.cnblogs.com/Anita9002/p/8136357.html keras网络结构 keras网络配置 keras预处理功能模型的节点信息提取 # 节点信息提取 config = model.get_config() # 把model中的信息，solver.prototxt和train.prototxt信息提取出来 mode...

keras终止训练后显存不释放_在K40小破卡训练50层BERT Large的宝藏trick

weixin_39831239的博客

11-21

246

前言虽然TPU的显存令人羡慕，但是由于众所周知的原因，绝大部分人还是很难日常化使用的。英伟达又一直在挤牙膏，至今单卡的最大显存也仅仅到32G（参考V100、DGX-2）。然而，训练一个24层的BERT Large模型的时候，如果sequence length开满512，那么batch size仅仅开到8（有时候能到10）就把这寥寥32G的显存打满了。如果想训练一个48层乃至100层的BERT La...

keras系列︱keras是如何指定显卡且限制显存用量（GPU/CPU使用）

素质云笔记

07-21

4万+

keras在使用GPU的时候有个特点，就是默认全部占满显存。若单核GPU也无所谓，若是服务器GPU较多，性能较好，全部占满就太浪费了。于是乎有以下三种情况： - 1、指定GPU - 2、使用固定显存的GPU - 3、指定GPU + 固定显存一、固定显存的GPU 本节来源于：深度学习theano/tensorflow多显卡多人使用问题集（参见：Limit the resour...

batchsize和数据量设置比例_Keras - GPU ID 和显存占用设定步骤

weixin_39668890的博客

12-20

745

初步尝试 Keras (基于 Tensorflow 后端)深度框架时, 发现其对于 GPU 的使用比较神奇, 默认竟然是全部占满显存, 1080Ti 跑个小分类问题, 就一下子满了. 而且是服务器上的两张 1080Ti.服务器上的多张 GPU 都占满, 有点浪费性能.因此, 需要类似于 Caffe 等框架的可以设定 GPU ID 和显存自动按需分配.实际中发现, Keras 还可以限制 GPU 显...

深度学习theano/tensorflow多显卡多人使用问题集

cdj0311的专栏

10-31

1万+

深度学习theano/tensorflow多显卡多人使用问题集转载自：https://zhuanlan.zhihu.com/p/23250782 其实一直想写这篇东西，今天还是抽空系统整理一下吧。深度学习在实验环境通常会再一台主机安装多张显卡，既可以满足多人使用，也可以运行部分分布式任务。例如我这里一台主机安装了3块980Ti显卡（虽然做了SLI但实际在深度学习用不着，其

bitmap 回收

xcw931924821的专栏

11-24

1368

第一种方法--及时回收bitmap内存：一般而言，回收bitmap内存可以用到以下代码 if(bitmap != null && !bitmap.isRecycled()){ bitmap.recycle(); bitmap = null; } System.gc(); bitmap.recycle()方法用于回收该bit

Keras 常见问题

u014114990的专栏

11-10

1万+

Keras FAQ: Frequently Asked Keras Questions How can I run Keras on GPU? 如何在GPU上运行？ How can I save a Keras model? 如何保存模型？ Why is the training loss much higher than the testing loss? 为什么训练损失值远

CUDA out of memory粗暴解决方案