storm 运行任务日志报错：no leader found for partition 2 XXX

最新推荐文章于 2023-07-11 19:36:01 发布

TDXYBS

最新推荐文章于 2023-07-11 19:36:01 发布

阅读量629

点赞数 1

CC 4.0 BY-SA版权

分类专栏： Error 文章标签： storm kafka

本文链接：https://blog.youkuaiyun.com/Bamboo_coder/article/details/119963084

Error 专栏收录该内容

6 篇文章

订阅专栏

本文提供了解决大数据环境中Zookeeper与Kafka遇到的问题的步骤，包括检查topic异常、清理和重建topic、重启服务，以及必要的命令行操作和注意事项。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题可能的原因及解决

一、大数据zookeeper与kafka存在问题

建议重启或认真排查

二、大数据topic主题异常

可能原因：可能是大数据IRS中没有活的副本，导致无法选举leader所致。需要查看之前是否重建过topic主题，是否存在没有将主题删除干净的情况。
建议重建所有用到的topic主题，并重启kafka与zookeeper，启动ZK与kafka时需要先启动zookeeper。

1.查询已存在topic列表
没有将kafka相关命令加入环境变量则需要在先找到kafka-topics.sh所在目录，再执行下面步骤：
sh kafka-topics.sh --list --zookeeper任意一台zookeeper主机名:2181/kafka

2.删除topic
2.1初步删除(初步删除的topic会被标记为 - marked for deletion)：
没有将kafka相关命令加入环境变量则需要在先找到kafka-topics.sh所在目录，再执行下面步骤：
sh kafka-topics.sh --delete --zookeeper 任意一台zookeeper主机名:2181/kafka --topic topic名称

2.2彻底删除(对于被标记为- marked for deletion的主题，还需要在ZK中删除)：
没有将ZK相关命令加入环境变量则需要在先找到zkCli.sh所在目录，再执行下面步骤：
登录zk后台, sh zkCli.sh -server 任意一台zookeeper主机名:2181/kafka
rmr /kafka/brokers/topics/topic名称  （具体路径登录zk后台后ls查看，可能是/brokers/topics/topic名称）
rmr /kafka/admin/delete_topics/topic名称 （具体路径登录zk后台后ls查看）

3.新建topic
sh kafka-topics.sh --create --zookeeper 任意一台zookeeper主机名:2181/kafka --replication-factor 备份数(一般为kafka节点数) --partitions 分区数 --topic topic名称