canal小试牛刀第一篇:canal-server+kafka根据mysql binlog同步数据

本文介绍使用Canal+kafka实现MySQL Binlog数据实时同步的方法。通过详细配置步骤及命令展示如何搭建完整的数据同步流程。

github项目直达

更新

  • 新增eagle for kafka, kafka监控

如果是oracle数据库,可以考虑databus

1. 前情提要

直接监听mysql的binlog同步数据可以对业务无侵入。数仓搭建必备利器。

2. 准备工作

  1. 了解canal-server
  2. 了解kafka
  3. 了解Canal Kafka
  4. 了解mysql主从
  5. 了解docker、docker-compose
  6. canal配置详解

3. 配置相关

mysql

保存以下配置至./mysql/conf.d/slave.cnf

[mysqld]
log-bin=mysql-bin # 开启 binlog
binlog-format=ROW # 选择 ROW 模式
server_id=1

instance

在容器中复制/home/admin/canal-server/conf/example/instance.properties 并 保存至./canal-server/conf/example/instance.properties 然后对应如下配置对文件内容进行修改


#  按需修改成自己的数据库信息
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值