巴别时代基于 Apache Paimon 的 Streaming Lakehouse 的探索与实践

转载于 2023-05-30 10:18:03 发布 · 208 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://developer.aliyun.com/article/1202715?utm_content=g_1000372981

文章标签：

#apache #java #大数据 #elasticsearch #云计算

巴别时代采用ApachePaimon逐步构建StreamingLakehouse，已实现数仓分层和初步业务验证，正进行流式数仓基础设施建设和数据质量验证，目标是提供完整的端到端平台服务。

摘要：本文主要介绍巴别时代基于 Apache Paimon(Incubating) 构建 Streaming Lakehouse 的生产实践经验。我们基于 Apache Paimon(Incubating) 构建 Streaming Lakehouse 的落地实践主要分为三期：
第一期是在调研验证的基础上进行数仓分层，并且上线一些简单的业务验证效果；第二期是实现流式数仓的基础设施建设，以便优先替换当前基于 Apache Kafka 构建的实时数仓；第三期主要是完善 Paimon 的生态建设，包括数据资产、数据服务等平台服务建设，主要目标是提供完整的基于 Apache Paimon(Incubating) 端到端的平台服务能力。目前基本完成第一期的数仓分层，同时进行数据质量验证，基本可以满足业务需求。

我们基于 Apache Paimon(Incubating) 构建 Streaming Lakehouse 的落地实践主要分为三期：第一期是在调研验证的基础上进行数仓分层，并且上线一些简单的业务验证效果；第二期是实现流式数仓的基础设施建设，以便优先替换当前基于 Apache Kafka 构建的实时数仓；第三期主要是完善 Paimon 的生态建设，包括数据资产、数据服务等平台服务建设，主要目标是提供完整的基于 Apache Paimon(Incubating) 端到端的平台服务能力。目前基本完成第一期的数仓分层，同时进行数据质量验证，基本可以满足业务需求。

完整内容请点击下方链接查看：

巴别时代基于 Apache Paimon 的 Streaming Lakehouse 的探索与实践-阿里云开发者社区

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容