Canal
文章平均质量分 53
Canal
水滴779
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
1、Canal-源码-Canal启动入口类
学习中间件最好的方法是读源码,读源码最好的方式是调试一遍。调试第一步就是找中间件的入口。下面带着这几个问题找源码入口类及分析。后续的文章都是基于Canal 1.1.4版本做源码分析,咨询过Canal作者其核心代码几个版本都没有变化过。本文是笔者基于问题的启发式源码阅读技巧的展示,建议带着如下问题开始本文的阅读:如何找到Canal入口类?入口类CanalLauncher.class做了什么?Canal使用什么技术?一、如何找到Canal入口类在Canal的bin文件夹startup.sh下原创 2021-06-08 19:28:02 · 316 阅读 · 0 评论 -
2、Canal-架构-Canal HA集群思考
集群目前可以分3类,高可用性集群(High Availability Cluster)HA、负载均衡集群(Load Balance Cluster)LB、高性能集群(High Performance Computing Cluster)HPC,这3类集群有什么区别呢?集群类别:一、高可用性集群HA一个集群只有一台主机,其他的节点都是从机的模型,从机可能什么活都不干,只负担主机的后备,也可能做一些任务型的工作,这部分工作不会关系数据的事务。 HA什么活都不干的集群:Canal,HA做部分活的集群:Ka原创 2021-06-07 19:47:56 · 440 阅读 · 0 评论 -
3、Canal-配置类-dynamicTopic详细解
这是Canal instance实例中的动态topic配置,这点在作者官方文档说明的不是很清楚网上的文档也比较乱七八糟尝试过几种配置都不行,我尝试通过代码调试的方式一点点摸索出规律,下面给总结下。#表过滤规则 格式:库\\..* 说明:过滤tms_0下面所有表,这个配置什么用?#应为binlog是mysql所有库实例共享的,换句人话就是你可以拉到别的库实例binlogcanal.instance.filter.regex=tms_0\\..*# mq config#默认topic就是匹配规则原创 2021-05-26 23:36:12 · 3197 阅读 · 3 评论 -
4.Canal-Canal性能测试
最近项目需要需要变更数据,项目的数据链条Mysql(binlog)-->Canal-->RocketMq-->ES。由于以前生产环境出现Canal消费不及时导致堵塞发生故障,故本次在测试环境上测试Canal性能。本次压测的目的:第一个目的:测试出Canal的吞吐量,为生产环境数据切割做参考,第二个目的:找到导致Canal性能问题的原因,为后续的优化及项目架构做准备。一、硬件配置硬件环境 Canal节点环境 CPU 内存 磁盘读写速度 vm-lw-basic-原创 2021-05-18 17:35:02 · 2843 阅读 · 1 评论 -
5、Canal-架构-Canal关于instance彻底独立思考
Canal架构binlog filter、消息发送配置都放在全局的存在,为什么不都instance中实现,Canal作为一个外部的容器存在,instance有自己的模型与实现逻辑? 这点Canal作者有什么考虑。比如:每个instance任务连接kafka、rocketMq、tcp有自己决定,干嘛受全局的canal配置干扰?目前的设计丢失instance灵活性。...原创 2021-06-07 19:49:13 · 292 阅读 · 0 评论 -
6、Canal-linux-linux磁盘读写性能监控
1、iostat -m 硬盘读写性能[admin@vm-lw-barrelled-tms-performance-canal-t02 ~]$ iostat -mLinux 3.10.0-1062.el7.x86_64 (vm-lw-barrelled-tms-performance-canal-t02) 06/02/2021 _x86_64_ (4 CPU)avg-cpu: %user %nice %system %iowait %steal %idle 38.5原创 2021-06-07 19:49:56 · 698 阅读 · 0 评论 -
7、Canal-性能测试-组件性能测试
以前根据Canal在测试环境中测试其产品性能,其测试报告如下。根据Canal性能测试结果,感觉不是很理想。和官方的测试报告偏差很大。根据官方的建议,用其测试类测试其各个Canal模块的性能出测试报告如下。测试canal版本1.1.4。一、测试环境环境测试版本类型配置官方环境疑是1.0.26MySQL AIntel® Xeon® CPU E5-2430 0 @ 2.20GHz (24core 96G) 日常业务库MySQL BIntel® Xeon® CPU原创 2021-06-07 19:50:32 · 1544 阅读 · 2 评论 -
8、sql变更导致canal堵塞问题排查
一、场景描述20220120 15:50左右发布(发布单), dba采用rename方式变更表结构,导致变更时刻点,表名称和topic无法匹配上,导致canal爆找不到topic的错误,然后canal陷入死循环一直投递那个时刻点的日志(此现象已经在测试环境复现).//期望变更sqlALTER TABLE `ms_member_pay_order` ADD COLUMN `recycle_amount` decimal(12,2) DEFAULT NULL COMMENT '作废的余额金额',ADD原创 2022-03-03 16:51:50 · 988 阅读 · 3 评论 -
2、Canal-Canal配置参数解释
https://www.dazhuanlan.com/2020/02/03/5e36f84c38f11/转载 2021-05-19 09:56:22 · 675 阅读 · 0 评论
分享