kafka 消费者

最新推荐文章于 2025-12-03 09:17:06 发布

原创最新推荐文章于 2025-12-03 09:17:06 发布 · 883 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#kafka #java #分布式

kafka学习记录专栏收录该内容

6 篇文章

订阅专栏

本文深入探讨了Kafka的消费者工作流程，重点介绍了消费者组的概念和操作，包括初始化、消费流程以及分区分配策略如Range和Roundrobin。此外，还讨论了offset管理和数据积压问题，强调了消费者事务在确保消息一致性中的作用。

一、kafka的消费方式

由 broker 决定消息推送的速率，对于不同消费速率的 consumer 就不太好处理了。消息系统都致力于让 consumer 以最大的速率最快速的消费消息，但不幸的是， push 模式下， 当broker 推送的速率远大于 consumer 消费的速率时，consumer 恐怕就要崩溃了 。最终 Kafka 还是选取了传统的 pull 模式。

Pull 模式的另外一个好处是 consumer 可以自主决定是否批量的从 broker 拉取数据 。 Push 模式必须在不知道下游 consumer 消费能力和消费策略的情况下决定是立即推送每条消息还是缓存之后批量推送。如果为了避免 consumer 崩溃而采用较低的推送速率，将可能导致一次只推送较少的消息而造成浪费。 Pull 模式下， consumer 就可以根据自己的消费能力去决定这些策略。