【数仓】数据存储格式的选择:Parquet与ORC

大家好,我终于又出现了!

这次要讲讲数据存储格式Parquet和ORC之间的选择!

平时呢,我也会加一些有的没有的交流群,主要还是日常潜水看看里面有没有大佬!

然后就遇到了一个问题:hadoop上存储的数据,要进行查询,用什么格式存储更好?

我下意识的反应是ORC,因为ORC的压缩比更高(文件能压缩的更小),但是转念一想,ORC和Parquet都是列式存储的格式,两者之间有什么区别呢?或者说在最开始选择数据存储格式的时候,我们需要关注哪些点呢?

这另我陷入了沉思,开始在网上收集相关信息!

一、orc和parquet的区别

首先关于这两个格式的区别,我搜索到了不少东西!

国内的各大it博客平台流传这这么一份博客,具体出处是哪里,我考究不了了,随便贴个链接出来大家看看就好:https://developer.aliyun.com/article/226990

stackoverflow有类似的问题:https://stackoverflow.com/questions/53648218/when-to-use-parquet-over-orc-or-orc-over-parquet

甚至找到YouTube上的视频:https://www.youtube.com/watch?v=NZLrJmjoXw8

评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值