flink kafkaconsumer线上问题:Marking the coordinator 2147483647 dead.

这篇博客主要记录了在使用Flink消费Kafka数据时遇到的'Marking the coordinator 2147483647 dead.'错误。问题源于超时时间和拉取大小设置不当,解决方案是延长超时时间,减小单次拉取大小,并调整fetch.max.wait.ms参数以确保不超过request.timeout.ms。此外,还提到了由于HBase memCache大小调整导致的查询性能问题,影响了Flink任务的正常运行。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

错误日志:

解决方案:

参考文章:http://www.bubuko.com/infodetail-2332804.html

修改参数:
props.setProperty("fetch.max.wait.ms", "60000");
props.setProperty("session.timeout.ms", "500000");
props.setProperty("max.partition.fetch.bytes", "262144");

将超时时间设置的更长,将一次拉取大小设置成默认的四分之一,防止处理时间过长导致session失效,导致提交offset失败。

因fetch.max.wait.ms不能大于request.timeout.ms,所以还要修改这个参数:

props.setProperty("request.timeout.ms", "600000");

问题得到解决。

2.另一个原因

运维把hbase的memCache调小了,导致查询命中率下降,和磁盘的交互增加,查询速度变慢,队列打满,查询超时。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值