1、kafka特点:分布式、支持分区、多副本基于zookeeper协调分布式系统。与大数据结合做精准分析。如分析日志,消息追踪。
2、topic->partition
3、单播消息、多播消息
同一个topic下同一组,仅会被consumer消费,但可以被不同的组的一个用户消费。订阅模式需设置不同的组一个组对应一个用户
4、常用的核心参数
acks(all,-1,0,1)
5、controller broker,即被选举出来的leader负责管理follower,同步数据。选举机制是:kafka broker在启动时同时会向zookeeper发送消息,请求注册,第一个到达时被当做leader。
6、partition副本选举leader机制。
7、组协调器:kafka每个消费者组,都会选一个broker作为组协调器,负责监控这个消息组的所有心跳状态。
8、rebalance的分配策略
range:按照分区范围分
round-robin:轮询分区
sticky:尽可能平均,尽可能与上次分配保持相同。
9、HW高水位:消费者可以消费的消息数值,Leo是写入Leader中的消息数值。
kafka的知识索引
最新推荐文章于 2024-11-19 01:00:00 发布