Canal问题总结

最新推荐文章于 2024-09-13 22:16:53 发布

最新推荐文章于 2024-09-13 22:16:53 发布 · 541 阅读

文章标签：

#kafka #分布式

本文探讨了一名开发者遇到的问题，即在一个Canal实例中，一个表的数据同步到Kafka失败，经排查发现与表结构修改（增加字段）有关。通过设置DDL参数、重启Canal Server并调整SASL配置，作者分享了解决步骤和关键配置。

官网地址 https://github.com/alibaba/canal

问题一：

发现同一个canal instance里，其中一个表操作可以正常同步到kafka，另一个表则不行。日志也没报错。

不能同步的表最近的操作有修改表结构（增加了一个字段）。

将其修改为：
canal.instance.filter.query.ddl = false

关闭canal server(canal-server/bin/stop.sh)

重新部署canal-server

canal发送消息到kafka(配置了SASL验证)的配置

canal.serverMode = kafka

##################################################
######### Kafka #############
##################################################
kafka.bootstrap.servers = 127.0.0.1:9192,127.0.0.1:9192,127.0.0.1:9192
kafka.acks = all
kafka.compression.type = none
kafka.batch.size = 16384
kafka.linger.ms = 1
kafka.max.request.size = 1048576
kafka.buffer.memory = 33554432
kafka.max.in.flight.requests.per.connection = 1
kafka.retries = 0

kafka.kerberos.enable = false
kafka.kerberos.krb5.file = "../conf/kerberos/krb5.conf"
kafka.kerberos.jaas.file = "../conf/kerberos/jaas.conf"
groupId=group_chemical
kafka.sasl.mechanism=SCRAM-SHA-256
kafka.security.protocol=SASL_PLAINTEXT
kafka.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="user" password="user-secret";