RocketMQ 重复消费,消费顺序控制,消息丢失问题处理方案

本文探讨了在分布式系统中如何处理消息队列中的消费顺序、重复消费和消息丢失问题。首先,通过确保消息发送到同一MQ并采用消费者确认机制来解决消费顺序。其次,提出了两种处理重复消费的方法:实现业务逻辑的幂等性和使用日志记录消费状态。最后,针对消息丢失,提出了使用RocketMQ的事务机制以及同步刷盘策略。这些方法旨在保障分布式环境下的数据一致性。

1.消费顺序控制
假设有三条消息,创建订单M1,订单付款M2,订单完成M3三个消息,在MQ集群下,假设M1发送到MQ1,M2发送到MQ2,那么将不能保证消息的执行顺序。
最简单的处理方式就是,将消息发布到同一个MQ上,先进先出原则,这样就能保证M1消息先于M2消息发送。
但是还存在一个问题就是,假设M1发送成功了,然后发送了M2,但是M1在消费的时候产生了网络波动,导致M1消费慢于M2。
为了解决它我们可以发送到同一个消费者上,当M1消费成功后返回,再去发送M2去进行消费,当M1没有响应的话一般就会去重新发送,这样就会存在重复消费的问题。

2.重复消费
重复消费主要是因为网络波动引起的,导致发送了两条相同的消息,转换一下思维,重复消费其实就是说 如果消费端收到两条一样的消息,应该怎样处理?
方法1:保证消费端业务逻辑的幂等性,无论执行多少遍相同消息,结果都一致
方法2:利用日志表去记录每次成功消费的id,消费前先判断下日志表中是否已经消费过。

3.消息丢失
消息产生阶段出现网络波动导致消息丢失:
解决:用rocketmq自带的事务机制去发送消息
写入内存缓存时丢失
解决:设置为同步刷盘,但是效率会大大降低,谨慎使用

### RocketMQ并发重复消费的原因 - **生产者端问题**:在系统调用链路长的情况下,系统A调用系统B,若系统B处理成功但未及时返回结果给系统A,系统A会重试请求,导致系统B重复处理并向RocketMQ发送多条重复消息;系统B向RocketMQ发送消息时,若消息发送超时,系统B重试也会使RocketMQ收到重复消息。另外,当一条消息成功发送到服务端并完成持久化,此时出现网络闪断或客户端宕机,导致服务端对客户端应答失败,生产者若意识到消息发送失败并再次发送,消费者会收到重复消息[^1][^4]。 - **消费者端问题**:消费消费完成后还没来得及提交offset给RocketMQ就宕机或重启,RocketMQ没收到offset会认为消费失败而重发消息RocketMQ启动定时任务清理消费时间15分钟的普通消息(顺序消息除外),将其作为延迟消息发送,可能导致客户端已消费消息被重新发送。当消息已投递到消费者并完成业务处理,客户端给服务端反馈应答时网络闪断,为保证消息至少被消费一次,服务端会在网络恢复后再次投递已处理过的消息。负载均衡时(如网络抖动、Broker重启、订阅方应用重启、Broker或客户端扩容缩容触发Rebalance),消费者可能收到重复消息[^1][^2][^4]。 - **服务端问题**:RocketMQ发生宕机,offset可能丢失5s的数据,服务端重启后,消费者从服务端获取的消息消费进度比实际消费进度低,会导致消息重复消费;主从同步offset失败也会引发重复消费[^3]。 ### 解决方案 使用业务唯一标识作为幂等处理的关键依据,因为Message ID可能出现冲突,可通过在业务数据库中创建唯一索引,当重复消息到来时,数据库会因唯一索引约束而拒绝重复插入,从而避免业务的重复处理[^4]。 ```python # 伪代码示例,模拟幂等处理 def consume_message(message): business_id = message.get('business_id') # 获取业务唯一标识 try: # 尝试插入业务数据,利用数据库唯一索引保证幂等 insert_into_database(business_id, message) # 处理业务逻辑 process_business_logic(message) # 提交offset commit_offset(message) except DuplicateKeyError: # 若出现唯一索引冲突,说明消息处理过,忽略 pass ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Sonk.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值