Kafka学习笔记

本文记录了Kafka学习知识点,包括bin目录常用工具,分区数修改规则,分区保序场景下后端消费者的处理方式,扩容方式及影响,消息生命周期设置,消息队列语义需后端配合,offset管理,生产者模式及副本落盘的可靠性与性能取舍等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

学习的知识点记录如下:

1.bin目录下常用的kafka工具

2.修改分区数时,只能进行增加,不能减少。

3.kafka分区保序,如果将kafka使用在这样的场景里面,后端消费者同样也要做到保序,比如多线程消费进行排序,或者单线程消费。

4.扩容方式有两种:一种扩分区,--alter;一种不改分区扩broker,通过reassign进行分区数据迁移。在分区保序的场景下,前者可能会造成数据乱序,后者场景有短暂的停服时间。

5消息生命周期设置有两种:一,根据数据时间;二,根据数据大小。如果做以上扩分区操作,可能会造成短时间内的数据偏斜。

6.消息队列语义:at least once,at most once,exactly once 也需要后端来应用配合完成。如数据库的upsert。

7.offset需要自己管理。比如消费数据写两份的场景,可以通过,消费者事物的方式进行双写,然后在commit offset。

8.生产者有同步模式和异步批量模式,是可靠性和性能的取舍。

9.同8,同步副本落盘和异步落盘,可靠性能和性能的取舍。

转载于:https://www.cnblogs.com/performancetest/p/9532862.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值