记一次Kafka生产问题

最新推荐文章于 2024-11-21 19:24:33 发布

Java_Soldier

最新推荐文章于 2024-11-21 19:24:33 发布

阅读量936

点赞数

分类专栏： kafka 文章标签： kafka运维

本文链接：https://blog.youkuaiyun.com/Java_Soldier/article/details/83070061

版权

本文记录了一次由于Kafka __consumer_offsets 分区数据异常增长导致的生产问题。通过检查配置，发现日志保留策略未生效。通过查询Zookeeper中的topics特殊配置并进行调整，解决了这个问题。涉及的命令包括查询和修改topics的配置，以及清理策略的设置。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近北京电信的生产服务器突然间磁盘报警，发现是kafka-log的__consumer__offsets–55数据量过大导致，这个topic是kafka记录偏移量的主题，这个分区的数据量达到3.1个T；
默认配置server.conf里的核心配置项
#最大日志保留大小 log.retention.bytes=1073741824
#日志保留时间长度 log.retention.minutes=10
log.segment.delete.delay.ms=1000 #过期数据删除策略，
最重要的配置 log.cleaner.enable=true log.cleanup.policy=delete
#以上配置只对默认配置，属于全局配置，并不一定对全部topic起效

如果以上配置对你的topics不起效果，说明该topics有独立的特殊配置，用以下命令查询该topics的特殊配置（重载配置）
#localhost:2182是zookeeper的ip和端口，__consumer_offsets是要查询的topics bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --describe #假如结果如下： Configs for topics:__consumer_offsets are segment.bytes=104857600,cleanup.policy=compact,compression.type=uncompressed 则说明segment.bytes、cleanup.policy、compression.type这三个配置项是针对topics的，server.conf配置log.cleanup.policy， log.segme

最低0.47元/天解锁文章