（3）Canal高可用集群

原创 已于 2025-09-24 21:49:56 修改 · 1.3k 阅读 · 22 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#大数据

于 2025-02-06 16:49:50 首次发布

1.前言

在最近项目开中，为了减少前台搜索对数据库访问压力，入库的物料都需要同步一份数据到ES，让前台搜索直接访问ES，不直接访问数据库获取数据。一开始做法是代码串行先保存到数据库，再同步到ES。但是会有一个坑，如果两者其一保存数据不成功，就会导致数据库跟ES数据不一致，而且这种方式是对站点代码是有侵入式的。搜索相关资料发现阿里的canal这个增量数据订阅&消费的中间件可以无侵入式地有效解决该问题，canal伪造从库拉取mysql库每次修改binary log对象解析后，再通过MQ同步数据到ES。同时考虑系统健壮性，稳定性，所以把canal部署成高可用集群。

2. canal架构

我特定查阅官网资料几遍，总体归纳canal架构如上几种（如有错误，请各位看官指正，谢谢）。而这次功能重构，鉴于目前公司现有技术栈，决定采用架构图③的架构进行重构。

2.1HA机制设计

canal的ha（双机集群）分为两部分，canal server和canal client分别有对应的ha实现：
●canal server：为了减少对mysql dump的请求，不同server上的实例(instance)要求同一时间只能有一个处于running，其他的处于standby状态。
●canal client：为了保证有序性，一份实例(instance)同一时间只能由一个canal client进行get/ack/rollback操作，否则客户端接收无法保证有序。
整个HA机制的控制主要是依赖了zookeeper的几个特性，watcher和EPHEMERAL节点(和session生命周期绑定)，后续我会继续记录zookeeper学习过程。
Canal Server HA架构原理：

流程步骤：
2.1.1canal server要启动某个canal instance时都先向zookeeper进行一次尝试启动判断（实现：创建EPHEMERAL节点，谁创建成功就允许谁启动）。
2.1.2创建zookeeper节点成功后，对应的canal server就启动对应的canal instance，没有创建成功的canal instance就会处于standby状态。
2.1.3一旦zookeeper发现canal server A创建的节点消失后，立即通知其他的canal server再次进行步骤1的操作，重新选出一个canal server启动instance。
2.1.4canal client每次进行connect时，会首先向zookeeper询问当前是谁启动了canal instance，然后和其建立链接，一旦链接不可用，会重新尝试connect。
注：canal client的方式和canal server方式类似，也是利用zookeeper的抢占EPHEMERAL节点的方式进行控制。

3.前期准备

3.1安装zookeeper

可以参考我这篇“Zookeeper在linux环境中搭建集群”文章或者百度教程安装。集群部署如下：

服务名称IP/域名端口
zookeeper(slave)192.168.18.2002181
zookeeper(master)  192.168.18.2012181
zookeeper(slave) 192.168.18.2022181

3.2安装mysql

可以参考我这篇”MySQL进阶篇在linux环境下安装” 文章或者百度教程安装。MySQL我只部署单台：

服务名称IP/域名端口
mysql 8.135.110.120（阿里云）3306

用户名：canal，密码：qwer1234

3.3安装mq（因为我公司是使用RabbitMQ，所以安装的是RabbitMQ）

可以参考我这篇“RabbitMQ在Docker上安装”文章或者百度教程安装。RabbitMQ我只部署单台：

服务名称IP/域名端口
rabbitmq8.135.110.120（阿里云）5672

管理后台登录账号：admin，密码：qwer1234
再新建一个队列用作演示：
Virtual hosts：/
交换器(Exchanges)：canal.direct.test
路由key(Routing key)：canal.routingkey.test
队列(Queues)：canal.queue.test

3.4安装canal.server

可以参考我这篇“Canal管理后台在linux上部署”（这篇文章采用就是架构图④的架构）或者百度教程安装。集群部署如下：

服务名称IP/域名端口
canal.server01192.168.18.20011110
canal.server02192.168.18.20111110
canal.server03192.168.18.20211110

两台canal.server实例我重新拷贝一份用作供应商报价业务，具体操作如下：

cp -r /home/deng/canal/canal.deployer/conf/example /home/deng/canal/canal.deployer/conf/quote_example

实例名称：quote_example

3.5其他依赖

JDK版本：java version "11.0.17"

4.启动canal集群

部署完canal.server两个服务后，集群想要生效，还需要同时修改两台服务的配置重新启动才可以，具体操作如下：
●编辑vi conf/ canal.properties文件
因为canal.server集群需要zookeeper，所以在“common argument”标题下找到canal.zkServers选项修改为zookeeper集群地址；然后把canal.serverMode选项修改为rabbitMQ类型：

canal.zkServers = 192.168.18.200:2181,192.168.18.201:2181,192.168.18.202:2181
canal.serverMode = rabbitMQ

同时canal需要MQ进行同步数据，所以在“RabbitMQ” 标题下找到rabbitmq配置进行修改：

rabbitmq.host = 8.135.110.120
rabbitmq.virtual.host = /
rabbitmq.exchange = canal.direct.test
rabbitmq.username = admin
rabbitmq.password = qwer1234
rabbitmq.deliveryMode =

HA模式是依赖于instance name进行管理，必须都选择default-instance.xml配置。在“destinations”标题下找到canal.instance.global.spring.xml选项进行启用（其他两个选项注释）：

canal.instance.global.spring.xml = classpath:spring/default-instance.xml

注：canal是允许配置多个实例(instance)，假设每个canal.server服务都有相同的两个实例（在conf目录下分别建两个实例文件夹：example1和example2，同时把默认实例example文件夹里的instance.properties文件拷贝一份过去），修改两个实例canal.properties配置就能使其生效，在“destinations”标题下找到canal.destinations选项修改如下：

canal.destinations = example1, example2

●编辑vi conf/example/instance.properties文件（如果是多实例，则每个实例目录下该文件都要修改配置，现在以canal.server01服务为例）

# mysql集群配置中的serverId概念，需要保证和当前mysql集群中id唯一
canal.instance.mysql.slaveId=129
# mysql数据库连接地址和端口
canal.instance.master.address=8.135.110.120:3306
# mysql数据库用户名和密码
canal.instance.dbUsername=canal
canal.instance.dbPassword=qwer1234
# mq配置（如果是没用到MQ，则修改为实例名称即可）
canal.mq.topic= example1

Or

# mq配置（如果是用到MQ，则修改为mq路由key）
canal.mq.topic=canal.routingkey.test

●启动canal.server服务

cd /home/deng/canal/canal.deployer
sh bin/startup.sh

●登录mysql增删改一条数据（创建一个供应商报价supplier_quote临时表）

INSERT ebs_material.supplier_quote (PN,Brand,StockQty) VALUES ('LM3585DT','TI',10000);
UPDATE ebs_material.supplier_quote SET Brand='TS1' WHERE Id=1;

在RabbitMQ管理后台队列上会看到这两条语句待消费消息：

下面再来验证下canal集群是否成功。
●验证canal集群是否成功
首先把canal.server01停止运行（也可以停止canal.server02运行，随便一个都可以）：

sh bin/stop.sh

查看日志：

从上述截图可以看到201虚拟机canal.server02服务已经关闭了。现在在数据库再插入一条报价数据：

INSERT ebs_material.supplier_quote (PN,Brand,StockQty) VALUES ('BAV999','TI',10000);

再查看下RabbitMQ管理后台队列有没有新增一条待消费的消息：

由此可见，已经新增一条待消费的消息，证明canal集群部署成功！

5.小结

在部署集群过程中偶尔会发生canal集群没有推送MQ消费情况，需要重新启动canal.server服务才生效，不知道是因为canal内部集成对rabbitmq不友好还是怎么的，后续测试排查下问题。该章节主要介绍如何搭建canal高可用集群，后续我们会深入了解内部原理跟其他功能。

参考文献：
AdminGuide https://github.com/alibaba/canal/wiki/AdminGuide
简介 https://github.com/alibaba/canal/wiki/%E7%AE%80%E4%BB%8B

Canal高可用集群搭建过程
weixin_43564627的博客
04-01 1343
Canal高可用集群搭建过程 一、简单介绍一下Canal Canal简介：https://github.com/alibaba/canal/wiki/简介 Canal Server：该程序是Canal官方提供程序。 Canal Client：该程序需要自己开发，用于接收Canal的数据（此案例以Java代码为例）。 集群挂载流程如下： 同时启动2个Canal Server，仅有一个Canal Server和一个Canal Client可运行，另外都在阻塞等待； 当正在运行的Canal Server或者C
安装canal 高可用集群
weixin_37767104的博客
05-29 1936
背景 研发伙伴的需求，需要监控mysql增量数据，想通过canal-client发送到java flink上。 canal是什么： canal [kə’næl]，译意为水道/管道/沟渠，主要用途是基于 MySQL 数据库增量日志解析，提供增量数据订阅和消费。 参考文档： https://github.com/alibaba/canal/ canal 工作原理 canal 模拟 MySQL slave 的交互协议，伪装自己为 MySQL slave ，向 MySQL master 发送dump 协议 MySQ
canal的部署（单机、集群、docker、k8s）
最新发布
EscaRC的博客
10-17 1261
方式适用场景优势Docker 单容器本地开发、快速验证、轻量测试只需一条 docker run 命令，配置持久化即可小规模生产或多实例本地部署统一管理容器、环境变量、卷，支持 restart 策略K8s 原生 YAML需要自定义资源、细粒度控制的企业级部署完整的 ConfigMap、PVC、Probe、滚动升级Helm Chart大规模集群、频繁升级、统一运维参数化、版本管理、快速回滚。
Canal高可用架构部署
zlt2000的博客
03-22 1865
一、前言 canal 是阿里的一款开源项目，纯 Java 开发。基于数据库增量日志解析，提供增量数据订阅&消费，目前主要支持了 MySQL(也支持 mariaDB)。 canal 模拟 mysql slave 的交互协议，伪装自己为 mysql slave，向 mysql master发送 dump 协议； mysql master 收到 dump 请求，开始推送binary log给 slave(也就是canal) canal 解析 binary log对象(原始为byte流)。 &nbs.
canal集群高可用模式实战，canal1.1.6实现mysql8.0数据增量/全量同步到elasticsearch7，保姆级教程
qq_45132989的博客
09-05 9246
主要用途是基于 MySQL 数据库增量日志解析，提供增量数据订阅和消费。canal的工作原理：1.canal模拟mysql sllave的交互协议，伪装自己为mysql salve；2.mysql master收到dump请求，开始推送binary log给 slave（也就是canal）；3.canal解析binary log 对象（原始byte流），再发送到存储目的地，比如MySQL，Kafka，Elastic Search等等。canal的数据同步可以增量/全量。
高可用 Canal集群（ 秒懂 + 史上最全）
热门推荐
架构师尼恩
12-23 2万+
canal server 仅仅是保姆角色，真正完成 解析 binlog日志、 binlog日志过滤、 binlog日志转储、位点元数据管理等等 核心功能，是由canal instance 角色完成。Canal Instance 的架构图如下图所示：Canal 中数据的同步是由 CanalInstance 组件负责，一个 Canal Server 实例中可以创建多个 CanalInstance 实例。
精选资源
k8s集群下canal-server的伪高可用实践
01-07
k8s集群下canal-server的伪高可用实践前言问题解决方案总结 前言 前面我们已经介绍了canal的admin、server、adapter三个部分的容器化以及在k8s集群下的搭建过程。在创建canal-server的时候，k8s环境下，容器重启会...
k8s高可用集群部署（二）部署实施
椰汁菠萝
05-07 835
上篇文章：k8s高可用集群部署（一）方案对比 介绍了两种部署方案，从他们拓扑图中可以看出，方案一部署起来更容易些；因此选择方案一； 高可用方案总体介绍 k8s高可用方案和普通方案相比仅仅多了一个负载均衡器 sudo kubeadm init --control-plane-endpoint "k8s-master:16443" --upload-certs --pod-network-cidr 10.244.0.0/16 --image-repository registry.cn-hangzhou.ali
Canal 同步 (集群版)
sdfsfaf的博客
01-25 1933
Canal 阿里云RDS同步到Mysql
canal集群搭建
qq_16938433的博客
05-23 1355
canal集群搭建及注意事项
Canal集群化部署.docx
11-20
基于日志增量订阅&消费支持的业务 1. 数据库镜像 2. 数据库实时备份 3. 多级索引 (卖家和买家各自分库索引) 4. search build 5. 业务cache刷新 6. 价格变化等重要业务消息
手把手教你生产环境搭建Canal1.1.5高可用集群
weixin_52918377的博客
03-22 1341
手把手教你生产环境搭建Canal1.1.5高可用集群
CanalAdmin搭建Canal Server集群
huan的学习记录
06-05 5808
一、背景 使用CanalAdmin来搭建一个canal集群。 二、机器情况 服务名 机器ip 备注 canal admin 127.0.0.1:8089 canal admin 机器 canal server 1 127.0.0.1:11111 本地canal server机器 canal server 2 127.0.0.1:11113 本地canal server机器 zk 127.0.0.1:2181,127.0.0.1:3181,127.0.0.1:4181 本地zk集群
三、canal集群部署
sinat_27818621的博客
11-16 6070
目前canal的一个instance客户端是一 一对应的关系，那么想要保证程序的高可用就要实现集群模式，如下图 两个canal(server),只会有一个工作，另一个处于阻塞状态 两个canal(client),只会有一个工作，另一个处于阻塞状态 如果工作中的canal(server) 或canal(client)，那么就绪状态的canal(server) 或canal(client)就会进入工作状态，从而达到高可用。 如何搭建高可用集群？ 1.下载 https://github.c..
canal 高可用介绍（4）
weixin_34101229的博客
04-14 328
概述 这篇文章的目的是为了讲清楚canal的HA机制，至于什么是HA机制直接套用canal官网原话，因为我自认为没法描述的更好。而我直接从代码的角度去分析如何实现HA的，其实也就是zookeeper的分布式锁的使用方法。 摘录自官网的一段原话： canal的HA分为两部分，canal ...
Canal集群搭建
liangshitian的博客
10-25 430
springboot使用canal中间件
canal集群搭建踩坑
猿人源码
11-02 1801
canal集群搭建，canal admin 状态断开问题原因
canal高可用
qq_35383467的博客
03-17 986
1.admin管控界面搭建 1.1 安装配置admin 下载安装包https://github.com/alibaba/canal/releases/download/canal-1.1.4/canal.admin-1.1.4.tar.gz解压安装包，进入conf目录 编辑application.yml server: port: 8089 spring: jackson: date-format: yyyy-MM-dd HH:mm:ss time-zone: GMT+8 ...
canal集群
08-02
### Canal 集群配置与使用指南 Canal 是阿里巴巴开源的一个用于增量数据订阅和消费的组件，广泛用于数据库增量日志的解析和订阅场景。其核心原理是模拟 MySQL 的 Slave 协议，连接 MySQL 主库并读取其 binlog 日志，从而实现数据的增量订阅与消费。 在高可用（HA）集群模式下，Canal 依赖 Zookeeper 进行分布式协调和状态管理。通过 Zookeeper，Canal Server 和 Canal Adapter 能够实现故障转移和负载均衡，确保服务的高可用性[^1]。 #### 1. 环境准备 在搭建 Canal 集群之前，需要准备好以下环境和组件： - **MySQL 数据库**：确保 MySQL 已启用 binlog，并配置为 `ROW` 模式。此外，建议创建一个专门用于 Canal 的 MySQL 用户，并授予相应的权限： ```sql GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%' IDENTIFIED BY 'canal'; ``` - **Zookeeper 集群**：Canal 依赖 Zookeeper 实现 HA 高可用性，建议部署一个 Zookeeper 集群以确保可靠性。Zookeeper 的安装和配置可以参考相关文档。 - **JDK 环境**：Canal 需要 Java 环境支持，建议使用 JDK 1.7 或更高版本。 #### 2. Canal Admin 安装与配置 Canal Admin 是 Canal 的管理模块，用于管理 Canal Server 的实例配置、权限控制等。以下是安装步骤： - **下载并解压安装包**： ```bash wget https://github.com/alibaba/canal/releases/download/canal-1.1.5/canal.admin-1.1.5.tar.gz mkdir -p /software/canal-admin tar -xzvf canal.admin-1.1.5.tar.gz -C /software/canal-admin ``` - **初始化元数据库**：Canal Admin 需要一个数据库来存储元数据信息，建议使用 MySQL 数据库，并按照 Canal 的要求初始化表结构。 - **配置文件修改**：在 `application.properties` 文件中配置数据库连接信息、Zookeeper 地址等： ``` canal.zkServers=10.20.144.51:2181 canal.instance.global.spring.xml = classpath:spring/default-instance.xml ``` #### 3. Canal Server 配置 Canal Server 是 Canal 的核心组件，负责与 MySQL 进行交互，解析 binlog 日志。配置步骤如下： - **修改 `canal.properties` 文件**：配置 Zookeeper 地址、实例名称、日志级别等参数。 ``` canal.zkServers=10.20.144.51:2181 canal.instance.example.master.address=127.0.0.1:3306 canal.instance.example.dbUsername=canal canal.instance.example.dbPassword=canal ``` - **配置实例文件**：每个 Canal 实例对应一个 MySQL 数据库实例，实例的配置文件通常位于 `conf/example/` 目录下。可以根据实际需求修改 `instance.properties` 文件中的参数。 #### 4. 启动与验证 - **启动 Canal Admin**：进入 `/software/canal-admin/bin` 目录，执行启动脚本： ```bash ./startup.sh ``` - **启动 Canal Server**：进入 Canal Server 的安装目录，执行启动脚本： ```bash ./bin/startup.sh ``` - **验证 Canal 服务**：通过访问 Canal Admin 的 Web 界面，查看 Canal Server 的状态是否正常。同时，可以通过编写简单的 Canal Client 程序来订阅和消费 binlog 数据。 #### 5. Canal Client 使用 Canal Client 是 Canal 的消费者，负责订阅并消费 Canal Server 推送的 binlog 数据。以下是一个简单的 Canal Client 示例代码： ```java import com.alibaba.otter.canal.client.CanalConnector; import com.alibaba.otter.canal.client.CanalConnectors; import com.alibaba.otter.canal.protocol.CanalEntry; import com.alibaba.otter.canal.protocol.Message; public class SimpleCanalClient { public static void main(String[] args) { // 创建连接器 CanalConnector connector = CanalConnectors.newSingleConnector("127.0.0.1", 11111, "", ""); try { // 连接 Canal Server connector.connect(); // 订阅所有表 connector.subscribe(".*\\..*"); while (true) { // 获取消息 Message message = connector.getWithoutAck(100); long batchId = message.getId(); if (batchId == -1 || message.getEntries().size() == 0) { continue; } // 处理消息 for (CanalEntry.Entry entry : message.getEntries()) { if (entry.getEntryType() == CanalEntry.EntryType.ROWDATA) { CanalEntry.RowChange rowChange = CanalEntry.RowChange.parseFrom(entry.getStoreValue()); System.out.println(rowChange); } } // 确认消息 connector.ack(batchId); } } finally { // 关闭连接 connector.disconnect(); } } } ``` #### 6. 高可用性配置 在 HA 集群模式下，Canal Server 和 Canal Adapter 依赖 Zookeeper 实现高可用性。通过 Zookeeper，多个 Canal Server 实例可以共同工作，确保在某个节点故障时，其他节点能够接管任务，保证服务的连续性。[^1] 此外，Canal 支持将解析后的数据推送到多种消息中间件，如 Kafka、RocketMQ 和 RabbitMQ，进一步增强了系统的可扩展性和可靠性。[^5]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值