hdf5内存问题

博客指出当重复执行代码生成H5文件时,虽内部keys和主键下数据大小未变,但文件大小每次增加1 - 2M,原因是HDF5不会释放已用空间。提出用ptrepack工具重新打包解决,还提到因该问题内存撑爆,需定时关闭打开,待研究与Hadoop保存追加信息的区别。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

h5 = pd.HDFStore('test_c4.h5','a', complevel=4, complib='blosc')
for tpath in files[:5]:
    code = tpath.split('\\')[-1][:-4]
    data = pd.read_csv(tpath, encoding='gbk')
    
    
    h5['min1'+code] = data
h5.close()

上面这个是代码,当 h5 文件未创建时,这段测试代码生成的 H5 文件大约是 5M 左右,但当重复执行这个代码,其内部的 keys 并未发生变化,每一个主键下的数据大小读出来之后发现也没有变化。

但是文件大小确实在增加,每次增加 1~2M

hdf5 是不会释放已用空间的,每次新增数据,都会重新申请一次,一个比较简单的解决方法是用自带的工具重新打包一下,叫做 ptrepack <新文件> <源文件> ,新文件的大小就是重新计算过的

我就是以上问题 把内存撑爆了的然后,我只能是每隔一段 关闭打开一次,估计是和李斯特一样的内存开辟,但是没有内存回收机制,导致了内存不断的开销而没有释放。不知道和hadoop的那种保存追加信息的有什么区别。待研究

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值