Debezium系列之:解决Debezium集群内存泄漏造成debezium服务挂掉的问题

377 篇文章 ¥99.90 ¥299.90
本文详细介绍了在Debezium集群中遇到的内存泄漏问题,导致服务挂掉的现象。分析了MySQL的table id变化与内存泄漏的关联,指出在ROTATE事件后未清理tableMapEventByTableId映射是主要原因。提出了两种解决方案:在ROTATE事件中清除table id或使用LRUCache。并分享了从mysql-binlog-connector-java项目中学习的思路,以及在debezium源码MySqlStreamingChangeEventSource.java中的具体修改建议,指出在debezium1.9.6版本中此问题将得到修复。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

漫长的登顶之路,厚积薄发,加油~
在这里插入图片描述

一、现象

  • debezium集群接入大量的数据库,在使用一段时间后,可能出现集群挂掉的现象,虽然自动托管debezium服务,可以在服务挂掉后,重新拉起服务。但是还是需要深入研究导致debezium集群挂掉的根本原因。
  • 经过研究发现是因为Debezium存在内存泄漏的情况

二、相关背景知识

理解mysql的table id:

  • 基于行模式复制的binlog中,table id的变化依赖于cache中是否存储了binlog操作表的表定义。
  • 如果cache中存在,则table id不变。
  • 当cache中不存在时,table id根据上一次操作的table id自增1
  • table id与实际操作的数据表没有直接对应关系,而与操作的表是否在cache中有关
  • table_def_cache中默认存放400个表的定义,超过该范围,会将最久未用的表定义置换出cache
  • 假设MySQL服务器的 table_def_cache 大小为 400,当有超过 400 个表不断写入,同一个表的表 id 可能会随着时间的推移而增加,并且 tableMapEventByTableId
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

快乐骑行^_^

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值