RocketMQ(九)—Queue分配算法

本文介绍了四种常见的Queue分配算法:平均分配、环形平均、一致性Hash和同机房策略。重点讲解了每种策略的工作原理、优缺点,并强调了一致性Hash在动态扩容缩容场景中的优势。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Queue分配算法

一个Topic中的Queue只能由Consumer Group中的一个Consumer进行消费,而一个Consumer可以同时消费多个Queue中的消息。常见的Queue分配算法有四种,分别是:平均分配策略、环形平均策略、一致性hash策略、同机房策略。这些策略是通过在创建Consumer时的构造器传进去的

平均分配策略

计算公式:
avg=QueueCountConsumerCount avg=\frac{QueueCount}{ConsumerCount} avg=ConsumerCountQueueCount
若能整除,则按照avg个Queue诸葛分配Consumer,如果不能整除,将多于的Queue按照Consumer顺序逐个分配。

环形平均策略

环形平均算法是指:根据消费者的顺序,依次在由queue队列组成的环形图中逐个分配,该方法不需要提前计算。

一致性hash策略

该算法会将consumer的hash值作为Node节点存放到hash环上,然后将queue的hash值也放到hash环上,顺时针方向距离queue最近的那个consumer就是该queue要分配的consumer。

问题:

分配效率较低,容易导致分配不均的情况

优点:

其可以有效减少由于消费者组扩容或缩容所带来的大量的Rebalance。

适合用在Consumer变化较频繁的场景

同机房策略

该算法会根据queue的部署机房位置和consumer的位置,过滤出当前consumer相同机房的queue。然后按照平均分配策略或环形平均策略对同机房queue进行分配。如果没有同机房queue,则按照平均分配策略或环形平均策略对所有queue进行分配。

至少一次原则

每条消息必须要被成功消费一次。

成功消费:即Consumer在消费完消息后会向其消费进度记录器提交其消费消息的offset, offset被成功记录到记录器中

消费进度记录器:广播模式中的Consumer本身,集群模式的Broker

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

稷下学员

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值