kafka清理数据

最新推荐文章于 2024-11-28 14:17:42 发布

转载最新推荐文章于 2024-11-28 14:17:42 发布

· 4.3k 阅读

kafka 专栏收录该内容

94 篇文章

订阅专栏

本文详细介绍了Kafka中关于日志保留大小、保留时间及过期数据删除策略等核心配置项。通过实例展示了如何查询特定主题的配置，并提供了修改或删除这些配置的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

2017年08月25日 11:15:25

阅读数：2742

默认配置server.conf里的核心配置项

#最大日志保留大小

log.retention.bytes=1073741824

#日志保留时间长度

log.retention.minutes=10

log.segment.delete.delay.ms=1000

#过期数据删除策略，最重要的配置

log.cleaner.enable=true

log.cleanup.policy=delete

#以上配置只对默认配置，属于全局配置，并不一定对全部topic起效

如果以上配置对你的topics不起效果，说明该topics有独立的特殊配置，用以下命令查询该topics的特殊配置（重载配置）

#localhost:2182是zookeeper的ip和端口，__consumer_offsets是要查询的topics

bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --describe

#假如结果如下：

Configs for topics:__consumer_offsets are segment.bytes=104857600,cleanup.policy=compact,compression.type=uncompressed

则说明segment.bytes、cleanup.policy、compression.type这三个配置项是针对topics的，server.conf配置log.cleanup.policy， log.segment.bytes 没有起效，如果想让该配置跟随server.conf配置，则执行以下命令，一个个删除特殊配置

bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy

如果想修改，则用以下命令

bin/kafka-configs.sh --zookeeper localhost:2182 --entity-type topics --entity-name __consumer_offsets --alter --delete-config cleanup.policy=delete

具体配置项参考官方文档：http://kafka.apache.org/documentation.html