4.5 数据积压
Kafka消费者消费数据的速度是非常快的,但如果由于处理Kafka消息时,由于有一些外部IO、或者是产生网络拥堵,就会造成Kafka中的数据积压(或称为数据堆积)。如果数据一直积压,会导致数据出来的实时性受到较大影响。
4.5.1 使用Kafka-Eagle查看数据积压情况


4.5.2 解决数据积压问题
当Kafka出现数据积压问题时,首先要找到数据积压的原因。以下是在企业中出现数据积压的几个类场景。
4.5.2.1 数据写入MySQL失败
问题描述
某日运维人员找到开发人员,说某个topic的一个分区发生数据积压,这个topic非常重要,而且开始有用户投诉。运维非常紧张,赶紧重启了这台机器。重启之后,还是无济于事。
问题分析
消费这个topic的代码比较简单,主要就是消费topic数据,然后进行判断在进行数据库操作。运维通过kafka-eagle找到积压的topic,发现该topic的某个分区积压了几十万条的消息。
最后,通过查看日志发现,由于数据写入到MySQL中报错,导致消费分区的offset一自没有提交,所以数据积压严重。
4.5.2.2 因为网络延迟消费失败
问题描述
基于Kafka开发的系
本文探讨了Kafka数据积压问题,包括由外部IO和网络拥堵引起的积压现象,以及如何通过Kafka-Eagle监控积压情况。针对数据积压,文章详细分析了数据写入MySQL失败和网络延迟导致的积压案例,并给出了相应的解决策略。
订阅专栏 解锁全文
1114

被折叠的 条评论
为什么被折叠?



