生产者的消息发送流程
- 业务层:通常指直接调用RocketMQClient发送API的业务代码
- 消息处理层:指RocketMQ Client获取业务发送的消息对象后,一系列的参数检查、消息发送准备、参数包装等操作
- 通信层:指RocketMQ基于Netty封装的一个RPC通信服务,RocketMQ的各个组件之间的通信全部使用该通信层
首先RocketMQ客户端接收业务层消息,然后通过DefaultMQProducerImpl发送一个RPC请求给Broker,再由Broker处理请求并保存消息,以DefualtMQProducerImpl.send()接口为例,消息发送流程具体分为3步
1.调用defaultMQProducerImpl.send()方法发送消息
2.通过设置的发送超时时间,调用defaultMQProducerImpl.send()方法发送消息,设置的超时事件可以通过sendMsgTimeout进行变更,其默认值为3s
3.执行defaultMQProducerImpl.sendDefaultImpl()方法.该方法是发送消息的核心方法
3.1 入参分析
- msg:我们拼装好的Message
- communicationMode:通信模式,同步、异步还是单向,默认调用send(Message msg)是同步调用
- sendCallback:对于异步模式,需要设置发送完成后的回调
- timeout:超时时间:默认3s
3.2 执行过程
1.两个检查:生产者状态this.makeSureStateOK();、消息及消息内容Validators.checkMessage(msg, this.defaultMQProducer);
没有运行的生产者不能发送消息。消息检查主要检查消息是否为空,消息的Topic的名字是否为空或者是否符合规范;消息体大小
是否符合要求,最大值为4MB,可以通过maxMessageSize进行设置
this.makeSureStateOK()
Validators.checkMessage(msg, this.defaultMQProducer);
Validators.checkTopic(msg.getTopic());
Validators.isNotAllowedSendTopic(msg.getTopic());
2.执行this.tryToFindTopicPublishInfo(msg.getTopic());
获取Topic路由信息,如果不存在则发出异常提醒用户。如果本地缓存没有路由信息,更新到本地,再返回
3.计算消息发送的重试次数,同步重试和异步重试的执行方式是不同的,同步为3次,异步1次
int timesTotal = communicationMode == CommunicationMode.SYNC
? 1 + this.defaultMQProducer.getRetryTimesWhenSendFailed() : 1;
4.执行队列选择方法this.selectOneMessageQueue(topicPublishInfo, lastBrokerName);
根据队列对象中保存的上一次发送消息的broker的名字和Topic路由,选择(轮询)一个Queue将消息发送到Broker.我们可以sendLatencyFaultEnable来设置是否总是发送到延迟级别较低的Broker,默认为false
5.执行this.sendKernelImpl(msg, mq, communicationMode, sendCallback, topicPublishInfo, timeout - costTime);
该方法是发送消息的核心方法,主要用于准备通信层的入参(比如Broker地址,请求体等),将消息传递给通信层,内部实现是基于Nettty的,再封装为通信层request对象RemotingCommand前,会设置RequestCode标识当前请求发送的单个消息还是批量消息sendResult = this.mQClientFactory.getMQClientAPIImpl().sendMessage()
Netty本身是一个异步的网络通信框架,怎么实现同步的呢?this.sendMessageSync(addr, brokerName, msg, timeoutMillis - costTimeSync, request);this.remotingClient.invokeSync(addr, request, timeoutMillis);
this.invokeSyncImpl(channel, request, timeoutMillis - costTime);在每次发送同步请求后,程序会执行waitResponse()方法,直到Netty接收到Broker的返回结果,如果在一定的时间内没有得到返回,则认为发送消息失败,当Netty中的ChannelFuture有返回结果时,会调用putResponse进行释放锁,进而让请求线程同步返回
注:异步发送时有很多request,每个response返回后怎么与request进行对应呢?这里有一个关键参数opaque,RocketMQ每次发送,同步请求前都会为一个request分配一个opaque,这一个原子自增的id,一个response会以opaque作为key保存在responseTable中,这样用opaque就将request和response连接起来了,无论请求发送成功与否,都执行updateFaultItem()方法,这也是第3步讲的总是
发送到延迟级别较低的Broker逻辑,this.updateFaultItem(mq.getBrokerName(), endTimestamp - beginTimestampPrev, false);