大数据之Hudi数据湖_基本概念_hudi中的查询类型_不同表的查询类型_快照查询原理_增量查询原理_读优化查询原理_官方原理解读---大数据之Hudi数据湖工作笔记0009

本文详细解读了Hudi数据湖中COW和MOR表的查询类型,包括快照查询、增量查询和读优化查询的原理。快照查询返回全量最新数据,MOR表在查询时可能需要即时合并;COW表直接返回最新Parquet文件。增量查询仅获取特定时间点之后的数据,读优化查询则可能不包含未合并的增量数据。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

然后我们再来看一下hudi支持的三种查询类型,这里

首先有快照查询,这里其实我们就记住,全量最新就可以了,就是说,他会把全量的,最新的数据返回,

对于MOR表读时合并的表中:你读取的时候,他会即时的把最新文件片中的.parquet这个文件和增量文件.log文件合并起来,然后提供给你,接近实时的表,大概有几分钟的时间.

对于COW这种表来说,其实就直接把最新的.parquet文件直接返回就可以了,因为COW写时复制表,里面最新的.parquet文件就包含了最新的数据了.

我们看一下这个而是COW表,写时复制表,这里面可以看到,

这里的fileid1 fileid2 3 4这个是一个个的文件组,然后10.00的时候来了一批数据,这个时候

数据设计到fileid1文件组和fileid2文件组的更新,然后还有

10.05的时候涉及到fileid1和fileid2文件组的更新和fileid3文件组的新数据的插入.

10.10分的时候,又来了一批数据,涉及到,fileid1文件组和fileid2文件组的更新和fileid4文件组的插入

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

添柴程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值