数据集成平台-Kafka实时同步Doris能力演示

🔥🔥 AllData大数据产品是可定义数据中台,以数据平台为底座,以数据中台为桥梁,以机器学习平台为中层框架,以大模型应用为上游产品,提供全链路数字化解决方案。

✨杭州奥零数据科技官网:http://www.aolingdata.com
✨Github项目:https://github.com/alldatacenter/alldata
✨Gitee项目:https://gitee.com/alldatacenter/alldata
✨AllData官方手册:https://www.yuque.com/aolingdata/product
✨AllData正式环境:http://43.138.156.44:5173/ui_moat

在这里插入图片描述
在这里插入图片描述
一、数据集成平台基于开源项目Tis建设

数据集成平台(Tis)集成了FlinkX-CDC、DataX等大数据组件,提供一站式数据集成服务。支持多种数据源,涵盖MySQL、Oracle、ElasticSearch等,兼容国产数据库,满足多源异构数据集成需求。

数据集成平台提供可视化操作界面,简化数据集成流程,降低操作难度。同时,具备实时与批量集成能力,确保数据及时准确。此外,还支持插件化扩展,用户可按需开发新插件,增强平台灵活性。助力企业高效完成数据集成任务,为数据中台建设提供有力支撑。

🔹Tis开源项目:https://github.com/datavane/tis
🔹Tis文档地址:https://tis.pub/docs/

二、数据集成平台功能特点

Hive数据库数据同步能力演示(全量同步+分区同步)
MySQL数据库数据同步能力演示(全量+增量同步)
Oracle数据库数据同步能力演示(全量+增量同步)
国产数据库达梦数据源DaMeng数据同步能力演示(全量同步)
国产数据库人大金仓数据源KingBase数据同步能力演示(全量+增量同步)
Kafka实时同步能力演示(增量实时同步)

在这里插入图片描述
一、支持数据库
在这里插入图片描述

二、进入主页
在这里插入图片描述

三、创建kafka通道
在这里插入图片描述

四、可视化配置kafka到doris
在这里插入图片描述

五、配置Kafka Reader
在这里插入图片描述

六、通过Kafka Reader到入表
在这里插入图片描述

七、批量配置Kafka表
在这里插入图片描述

八、配置Doris Writer表
在这里插入图片描述
在这里插入图片描述

九、成功创建Kafka到Doris同步实例
在这里插入图片描述

十、进入实时同步通道
在这里插入图片描述
在这里插入图片描述

十一、配置Flink实时同步
在这里插入图片描述

十二、实时同步配置Source/Sink
在这里插入图片描述

十三、自动生成同步实时同步代码
在这里插入图片描述

十四、部署实时任务成功
在这里插入图片描述

十五、检查实时任务正常运行
在这里插入图片描述

十六、检查Flink Runtime页面
在这里插入图片描述

十七、查看结果表数据,成功写入Doris数据
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

杭州奥零数据科技

AllData数据中台知识星球

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值