Kafka与ZK

在这里插入图片描述

FAQ

  • 如何清除kafka在ZK中存储的offset以达到自己的消费策略(从最开始消费或者从最新消费)

kafka-storm提供了这种API。但是kafka没有提供,你只能登录ZK,手动删除节点。

### Kafka 去掉 ZooKeeper 的替代方案 为了使 Kafka 再依赖于 ZooKeeper,社区引入了一种名为 **KRaft (Kafka Raft)** 的新模式。这种模式通过移除对外部 ZooKeeper 服务的依赖,将元数据管理和控制器功能集成到了 Kafka 自身内部。 #### 新架构概述 在 KRaft 模式下,所有的元数据管理功能都由 Kafka 集群中的一个特殊组件——**Quorum 控制器**负责[^1]。这些 Quorum 控制器基于 Raft 协议实现分布式一致性,从而取代了传统的 ZooKeeper 功能。具体来说: - 元数据存储:原本存放在 ZooKeeper 中的元数据现在被迁移到 Kafka 内部的一个特殊的日志文件中[^3]。 - Controller 角色:之前动态选举产生的单个 Controller 被一组多个 Controller 替代,它们共同维护集群状态并提供高可用性。 #### 实现方式 以下是 KRaft 架构的一些关键技术点及其工作原理: 1. **去中心化的设计** - 在传统架构中,ZooKeeper 是外部独立的服务,用于协调和存储配置信息;而在 KRaft 下,则完全消除了这一层抽象[^4]。 2. **Raft 协议的应用** - 使用 Raft 算法来同步同节点之间的元数据副本,确保即使部分机器宕机也能保持系统的正常运转。 3. **专用硬件支持** - 如果性能成为瓶颈或者希望进一步隔离资源消耗,可以考虑把某些特定职责分配给专门优化过的物理设备上去执行。 4. **简化运维流程** - 减少了对额外中间件(ZooKeeper)的需求意味着降低了整体复杂度以及潜在失败点的数量, 同时也减少了监控范围内的对象数目. ```bash # 开启 Kraft 模式的命令示例 bin/kafka-server-start.sh config/server.properties --override process.roles=broker,controller \ --override node.id=<node_id> --override controller.quorum.voters=<voter_list> ``` 上述脚本展示了如何启动具备双重角色(既是 broker 又是 controller) 的服务器实例,并指定了参投票过程的具体成员列表[^2]。 --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值