kafka controller介绍

本文介绍 Kafka 中分区和副本的工作原理。分区用于水平扩展,每个分区有多个副本保证高可用,其中一个副本为 leader 负责消息的读写。controller 在 broker 中选举产生并负责管理 leader 的选举及元数据的更新。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

kafka controller

1 分区和副本

一个topic有多个分区,
一个分区有多个副本,
副本负责保证分区的高可用,
副本中有一个为leader,
发送消息和接受消息都是从leader上进行的。

2 controller

controller只在一个broker上,
broker启动时会向ZK创建临时序号节点,最小的序号的broker作为controller。

  • controller负责选举leader

leader本身在Isr的第一位。
当leader挂掉后,controller会将Isr里的下一个副本选举为新的leader。

  • 当Isr发生变化时,会通知所有的broker更新元数据信息。

比如添加新的broker或者有broker挂掉了,这时候controller会去通知所有broker更新数据。

  • 当出现新分区时通知所有broker

topic增加分区数时,controller也会发起通知,告诉所有broker分区数增加。

2.1 Isr

记录所有可选举为leader的副本。

Kafka ControllerKafka 集群中的一个特殊角色,它具有以下主要作用: 1. 集群管理:Kafka Controller 负责管理整个 Kafka 集群的状态和元数据信息。它负责监控和维护集群中的 Broker、Topic、分区等信息,并确保集群的正常运行。如果有新的 Broker 加入或退出集群,Controller 将负责处理相关的操作和任务。 2. 分区分配:当创建新的 Topic 或者增加了 Topic 的分区数时,Kafka Controller 负责计算和执行分区的分配方案。它会根据配置的分区分配策略(如默认的 Range、RoundRobin 或自定义策略),将分区均匀地分配给各个 Broker 和消费者组,以实现负载均衡和高可用性。 3. Leader 选举:每个分区在 Kafka 集群中都有一个 Leader Broker,负责处理该分区的所有读写请求。当 Leader Broker 发生故障或不可用时,Controller 将负责进行 Leader 选举,选择新的 Leader Broker 来接管该分区的工作。通过 Leader 选举,可以保证分区在发生故障时仍然能够继续提供服务。 4. 副本管理:Kafka 使用副本来提供数据冗余和故障容错能力。Controller 负责管理副本的创建、同步和分布等操作。它会监控副本的状态,并在副本发生故障或不可用时进行恢复和修复,以保证数据的可靠性和一致性。 总的来说,Kafka ControllerKafka 集群中的核心组件之一,负责管理和维护集群的状态、元数据和各种任务。它通过协调和执行各种操作,确保 Kafka 集群的正常运行、数据的可靠性和高可用性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值