图解RocketMQ(一)

RocketMQ是一个分布式消息中间件,其核心组件包括Producer、Consumer、Broker和NameServer。Producer负责生产消息,Consumer消费消息,Broker作为消息存储和转发的角色。消息模型分为拉取式(PullConsumer)和推动式(PushConsumer)消费,支持集群和广播消费模式。主题(Topic)是消息分类的单位,MessageQueue存储消息物理地址,ConsumerGroup实现负载均衡和容错。此外,还涉及顺序消息和消息标签(Tag)来增强消息的管理和过滤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

目录

1 消息模型(Message Model)

2 消息生产者(Producer)

3 消息消费者(Consumer)

4 主题(Topic)

5 代理服务器(Broker Server)

6 名字服务(Name Server)

7 拉取式消费(Pull Consumer)

8 推动式消费(Push Consumer)

9 生产者组(Producer Group)

10 消费者组(Consumer Group)

11 集群消费(Clustering)

12 广播消费(Broadcasting)

13 普通顺序消息(Normal Ordered Message)

14 严格顺序消息(Strictly Ordered Message)

15 消息(Message)

16 标签(Tag)


1 消息模型(Message Model)

(图 1)RocketMQ主要由 Producer、Broker、Consumer 三部分组成,其中Producer 负责生产消息,Consumer 负责消费消息,Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器,每个 Broker 可以存储多个Topic的消息

(图2)每个Topic的消息也可以分片存储于不同的 Broker

(图3)Message Queue 用于存储消息的物理地址,每个Topic中的消息地址存储于多个 Message Queue 中

(图4)ConsumerGroup 由多个Consumer 实例构成

                                                            图1

                                                         图2

                                                      图3

                                                                                                            

                                           图4

2 消息生产者(Producer)

(图5)负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。

 

                                                         图5

 

3 消息消费者(Consumer)

(图6)负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费、推动式消费。

 

                                                            图6

 

 

4 主题(Topic)

(图7)表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。

                                                    图7

 

5 代理服务器(Broker Server)

(图8)消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、消费进度偏移和主题和队列消息等。

                                                          图8

6 名字服务(Name Server)

(图9)名称服务充当路由消息的提供者。生产者或消费者能够通过名字服务查找各主题相应的Broker IP列表。多个Namesrv实例组成集群,但相互独立,没有信息交换。

 

 

 

图9

 

 

7 拉取式消费(Pull Consumer)

(图 10)Consumer消费的一种类型,应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息,应用就会启动消费过程。

图10

 

 

8 推动式消费(Push Consumer)

(图11)Consumer消费的一种类型,该模式下Broker收到数据后会主动推送给消费端,该消费模式一般实时性较高。

图11

9 生产者组(Producer Group)

(图12)同一类Producer的集合,这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

图12

10 消费者组(Consumer Group)

(图13)同一类Consumer的集合,这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费(Clustering)和广播消费(Broadcasting)

图13

11 集群消费(Clustering)

(图14)集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。

图14

 

 

12 广播消费(Broadcasting)

(图15)广播消费模式下,相同Consumer Group的每个Consumer实例都接收全量的消息。

图15

13 普通顺序消息(Normal Ordered Message)

(图16)普通顺序消费模式下,消费者通过同一个消费队列收到的消息是有顺序的,不同消息队列收到的消息则可能是无顺序的。

图16

 

14 严格顺序消息(Strictly Ordered Message)

(图17)严格顺序消息模式下,消费者收到的所有消息均是有顺序的。

图17

 

15 消息(Message)

(图18)消息系统所传输信息的物理载体,生产和消费数据的最小单位,每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID,且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

图18

16 标签(Tag)

(图19)为消息设置的标志,用于同一主题下区分不同类型的消息。来自同一业务单元的消息,可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑,实现更好的扩展性。

图19

 

 

### RocketMQ 事务消息实现原理 #### 半消息与两阶段提交协议 RocketMQ 中的事务消息设计主要解决 Producer 端的消息发送与本地事务执行的原子性问题。为了确保这点,RocketMQ 使用半消息(Half Message)的概念和似于数据库中的两阶段提交协议来处理这个问题[^3]。 当应用程序发起条事务消息时,这条消息首先会被标记为“准备状态”,即所谓的半消息,并被存储到 Broker 上。此时该条目处于未确认状态,既不会被其他消费者读取也不会触发任何业务逻辑操作。只有等到生产者端完成其对应的本地事务之后才会向Broker 发送二次确认请求告知此次交易的结果——无论是成功还是失败,进而由 Broker 完成后续动作如真正投递给订阅者或者删除此记录以防止重复消费等问题的发生[^2]。 #### 生产者角色下的流程描述 对于生产者的具体工作流而言,在接收到客户端发出的数据包后会经历如下几个重要环节: 1. **创建并发送 Half 消息**:Producer 向 MQ Server 请求注册个临时性的占位符性质的信息体; 2. **执行 Local Transaction Logic**:紧接着调用用户自定义函数去尝试更新外部资源库内的数据项; 3. **根据结果反馈给服务端**:依据上步骤返回的状态码判断是否应该继续推进整个过程向前发展亦或是终止当前批次的操作; 4. **Commit/Rollback Phase**:最后按照协商致的方式通知远程节点采取相应措施结束本轮交互周期[^4]。 ```mermaid sequenceDiagram participant Client as 应用程序 participant Producer as 生产者 participant Broker as 消息服务器 Note over Client,Producer: 开始事务 Client->>Producer: 创建事务消息 Producer->>+Broker: 发送half message Broker-->>-Producer: 返回half msg ID Producer->>Client: 执行本地事务逻辑 alt 成功 Client->>Producer: 提交本地事务 Producer->>+Broker: Commit half message Broker-->>-Producer: Acknowledge commit else 失败 Client->>Producer: 回滚本地事务 Producer->>+Broker: Rollback half message Broker-->>-Producer: Acknowledge rollback end ``` #### 图解说明 上述文字可以通过下述表进步直观理解: ![RocketMQ事务消息](https://www.example.com/image.png) 请注意片链接仅为示意,实际应用中应替换为有效的像地址[^5]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值