Hadoop生态新增列式存储系统Kudu

最新推荐文章于 2025-09-04 13:37:27 发布

转载最新推荐文章于 2025-09-04 13:37:27 发布 · 116 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/dongtianxi/blog/718801

文章标签：

#大数据 #python #c/c++

Kudu是Cloudera开源的一款新型列式存储引擎，旨在融合HDFS和HBase的优点，支持高吞吐率和低延迟操作。适用于类OLAP负载处理，能够与MapReduce、Spark等Hadoop生态系统组件无缝集成。Kudu还支持与Cloudera Impala集成，为用户提供实时数据分析能力。

2019独角兽企业重金招聘Python工程师标准>>>

Hadoop 生态系统发展到现在，存储层主要由HDFS和HBase两个系统把持着，一直没有太大突破。在追求高吞吐的批处理场景下，我们选用HDFS，在追求低延迟，有随机读写需求的场景下，我们选用HBase，那么是否存在一种系统，能结合两个系统优点，同时支持高吞吐率和低延迟呢？有人尝试修改HBase内核构造这样的系统，即保留HBase的数据模型，而将其底层存储部分改为纯列式存储（目前HBase只能算是列簇式存储引擎），但这种修改难度较大。 Kudu的出现有望解决这一难题。

Kudu是Cloudera开源的列式存储引擎，具有以下几个特点：

C++语言开发
高效处理类OLAP负载
与MapReduce，Spark以及Hadoop生态系统中其他组件进行友好集成
可与Cloudera Impala集成，替代目前Impala常用的HDFS+Parquet组合
灵活的一致性模型
顺序写和随机写并存的场景下，仍能达到良好的性能
高可用，使用Raft协议保证数据高可靠存储
结构化数据模型

Kudu的出现，有望解决目前Hadoop生态系统难以解决的一大类问题，比如：

流式实时计算结果的更新
时间序列相关应用，具体要求有：

- 查询海量历史数据
- 查询个体数据，并要求快速返回

预测模型中，周期性更新模型，并根据历史数据快速做出决策

Kudu架构如下图所示：

0?wx_fmt=png
目前Kudu处于beta版，仍在不断开发迭代中，不久将提交并成为Apache Software Foundation incubator，据有关资料介绍，国内小米参与了kudu的开发，并做出不少贡献。据小米首席架构师崔宝秋介绍：“作为 Hadoop 生态系统的长期用户和贡献者，小米在 Kudu 项目初期就开始了和 Cloudera 的合作开发，并已经将 Kudu 独特的实时数据分析功能用到了小米业务中。”