RocketMQ(14) -- RocketMQ工作原理-- offset管理

RocketMQ的Offset管理涉及本地和远程模式。在广播模式下,Consumer的offset本地存储,集群模式则采用远程管理,确保Rebalance时的消费进度一致性。消费者启动时通过设置指定消费起始位置,消费完成后提交offset到Broker。异常情况下,offset进入重试队列,提交方式有同步和异步两种,影响消费者吞吐量。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

分布式消息队列RocketMQ

3.6)offset管理

这里的offset指的是Consumer的消费进度offset,消费进度offset是用来记录每个Queue的不同消费组的消费进度的。根据消费进度记录器的不同,可以 分为两种模式:本地模式和远程模式。

3.6.1)offset本地管理模式

当消费模式为广播消费时,offset使用本地模式存储。因为每条消息会被所有的消费者消费,每个消费者管理自己的消费进度,各个消费者之间不存在消费进度的交集。

Consumer在广播消费模式下offset相关数据以json的形式持久化到Consumer本地磁盘文件中,默认文 件路径为当前用户主目录下的

.rocketmq_offsets/${clientId}/${group}/Offsets.json

其中${clientId}为当前消费者id,默认为ip@DEFAULT;${group}为消费者组名称。

3.6.2) offset远程管理模式

当消费模式为集群消费时,offset使用远程模式管理。因为所有Cosnumer实例对消息采用的是均衡消费,所有Consumer共享Queue的消费进度。

Consumer在集群消费模式下offset相关数据以json的形式持久化到Broker磁盘文件中,文件路径为当前用户主目录下的store/config/consumerOffset.json。

Broker启动时会加载这个文件,并写入到一个双层Map(ConsumerOffsetManager),外层map的key为topic@group,value为内层map;内层map的key为queueId,value为offset;当发生Rebalance时, 新的Consumer会从该Map中获取到相应的数据来继续消费。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值