Spring Cloud Stream消费失败后的处理策略(三):使用DLQ队列(RabbitMQ)

本文介绍如何使用RabbitMQ的死信队列(DLQ)来处理Spring Cloud Stream中消息消费失败的情况,包括配置DLQ、消息重试、异常处理及消息重新消费的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

应用场景

前两天我们已经介绍了两种Spring Cloud Stream对消息失败的处理策略:

  • 自动重试:对于一些因环境原因(如:网络抖动等不稳定因素)引发的问题可以起到比较好的作用,提高消息处理的成功率。
  • 自定义错误处理逻辑:如果业务上,消息处理失败之后有明确的降级逻辑可以弥补的,可以采用这种方式,但是2.0.x版本有Bug,2.1.x版本修复。

那么如果代码本身存在逻辑错误,无论重试多少次都不可能成功,也没有具体的降级业务逻辑,之前在深入思考中讨论过,可以通过日志,或者降级逻辑记录的方式把错误消息保存下来,然后事后分析、修复Bug再重新处理。但是很显然,这样做非常原始,并且太过笨拙,处理复杂度过高。所以,本文将介绍利用中间件特性来便捷地处理该问题的方案:使用RabbitMQ的DLQ队列。

动手试试

准备一个会消费失败的例子,可以直接沿用前文的工程。也可以新建一个,然后创建如下代码的逻辑:

@EnableBinding(TestApplication.TestTopic.class)
@SpringBootApplication
public class TestApplication {

public static void main(String[] args) {
SpringApplication.run(TestApplication.class, args);
}

@RestController
static class TestController {

@Autowired
private TestTopic testTopic;

/**
* 消息生产接口
*
* @param message
* @return
*/
@GetMapping("/sendMessage")
public String messageWithMQ(@RequestParam String message) {
testTopic.output().send(MessageBuilder.withPayload(message).build());
return "ok";
}

}

/**
* 消息消费逻辑
*/
@Slf4j
@Component
static class TestListener {

@StreamListener(TestTopic.INPUT)
public void receive(String payload) {
log.info("Received payload : " + payload);
throw new RuntimeException("Message consumer failed!");
}

}

interface TestTopic {

String OUTPUT = "example-topic-output";
String INPUT = "example-topic-input";

@Output(OUTPUT)
MessageChannel output();

@Input(INPUT)
SubscribableChannel input();

}

}

内容很简单,既包含了消息的生产,也包含了消息消费。消息消费的时候主动抛出了一个异常来模拟消息的消费失败。

在启动应用之前,还要记得配置一下输入输出通道对应的物理目标(exchange或topic名)、并设置一下分组,比如:

spring.cloud.stream.bindings.example-topic-input.destination=test-topic
spring.cloud.stream.bindings.example-topic-input.group=stream-exception-handler
spring.cloud.stream.bindings.example-topic-input.consumer.max-attempts=1
spring.cloud.stream.rabbit.bindings.example-topic-input.consumer.auto-bind-dlq=true

spring.cloud.stream.bindings.example-topic-output.destination=test-topic

这里加入了一个重要配置spring.cloud.stream.rabbit.bindings.example-topic-input.consumer.auto-bind-dlq=true,用来开启DLQ(死信队列)。完成了上面配置之后,启动应用并访问localhost:8080/sendMessage?message=hello接口来发送一个消息到MQ中了,此时可以看到消费失败后抛出了异常,消息消费失败,记录了日志。此时,可以查看RabbitMQ的控制台如下:

其中,test-topic.stream-exception-handler.dlq队列就是test-topic.stream-exception-handler的dlq(死信)队列,当test-topic.stream-exception-handler队列中的消息消费时候之后,就会将这条消息原封不动的转存到dlq队列中。这样这些没有得到妥善处理的消息就通过简单的配置实现了存储,之后,我们还可以通过简单的操作对这些消息进行重新消费。我们只需要在控制台中点击test-topic.stream-exception-handler.dlq队列的名字进入到详情页面之后,使用Move messages功能,直接将这些消息移动回test-topic.stream-exception-handler队列,这样这些消息就能重新被消费一次。

如果Move messages功能中是如下内容:

To move messages, the shovel plugin must be enabled, try:

$ rabbitmq-plugins enable rabbitmq_shovel rabbitmq_shovel_management

那是由于没有安装对应的插件,只需要根据提示的命令安装就能使用该命令了。

深入思考

先来总结一下在引入了RabbitMQ的DLQ之后,对于消息异常处理更为完整一些的基本思路:

  1. 瞬时的环境抖动引起的异常,利用重试功能提高处理成功率
  2. 如果重试依然失败的,日志报错,并进入DLQ队列
  3. 日志告警通知相关开发人员,分析问题原因
  4. 解决问题(修复程序Bug、扩容等措施)之后,DLQ队列中的消息移回重新处理

在这样的整体思路中,可能还涉及一些微调,这里举几个常见例子,帮助读者进一步了解一些特殊的场景和配置使用!

场景一:有些消息在业务上存在时效性,进入死信队列之后,过一段时间再处理已经没有意义,这个时候如何过滤这些消息呢?

只需要配置一个参数即可:

spring.cloud.stream.rabbit.bindings.example-topic-input.consumer.dlq-ttl=10000

该参数可以控制DLQ队列中消息的存活时间,当超过配置时间之后,该消息会自动的从DLQ队列中移除。

场景二:可能进入DLQ队列的消息存在各种不同的原因(不同异常造成的),此时如果在做补救措施的时候,还希望根据这些异常做不同的处理时候,我们如何区分这些消息进入DLQ的原因呢?

再来看看这个参数:

spring.cloud.stream.rabbit.bindings.example-topic-input.consumer.republish-to-dlq=true

该参数默认是false,如果设置了死信队列的时候,会将消息原封不动的发送到死信队列(也就是上面例子中的实现),此时大家可以在RabbitMQ控制台中通过Get message(s)功能来看看队列中的消息,应该如下图所示:

这是一条原始消息。

如果我们该配置设置为true的时候,那么该消息在进入到死信队列的时候,会在headers中加入错误信息,如下图所示:

这样,不论我们是通过移回原通道处理还是新增订阅处理这些消息的时候就可以以此作为依据进行分类型处理了。

关于RabbitMQ的binder中还有很多关于DLQ的配置,这里不一一介绍了,上面几个是目前笔者使用过的几个,其他一些暂时认为采用默认配置已经够用,除非还有其他定制要求,或者是存量内容,需要去适配才会去配置。读者可以查看官方文档了解更多详情!

代码示例

本文示例读者可以通过查看下面仓库的中的stream-exception-handler-3项目:

如果您对这些感兴趣,欢迎star、follow、收藏、转发给予支持!

以下专题教程也许您会有兴趣


money.jpg
Spring Cloud Stream使用RabbitMQ实现消息的手动确认、死信队列以及延迟队列,可以通过以下方式进行配置和实现。 ### 1. 消息手动确认(Manual Acknowledgment) 为了启用消息的手动确认机制,需要在消费者的配置中设置 `acknowledge-mode` 为 `manual`,同时确保 RabbitMQ 的连接工厂支持手动确认。以下是相关配置: ```yaml spring: cloud: stream: bindings: input: destination: my-topic group: my-group consumer: acknowledge-mode: manual ``` 在代码层面,消费者需要通过 `ChannelAwareMessageListener` 来处理消息,并在消息处理完成后手动发送确认。例如: ```java @StreamListener(Processor.INPUT) public void handleMessage(Message<String> message, Channel channel) throws IOException { try { // 处理消息逻辑 System.out.println("Received message: " + message.getPayload()); // 手动确认消息 Long deliveryTag = (Long) message.getHeaders().get(AmqpHeaders.DELIVERY_TAG); channel.basicAck(deliveryTag, false); } catch (Exception e) { // 处理异常,可以选择拒绝消息或重新入队 Long deliveryTag = (Long) message.getHeaders().get(AmqpHeaders.DELIVERY_TAG); channel.basicReject(deliveryTag, false); // 拒绝消息,不重新入队 } } ``` ### 2. 死信队列(Dead Letter Queue) 要启用死信队列,首先需要确保 RabbitMQ 中的消息队列启用了死信功能。可以通过 Spring Cloud Stream 的配置来指定自动绑定死信队列,并设置相应的重试次数。以下是一个典型的配置示例: ```yaml spring: cloud: stream: rabbit: bindings: input: consumer: auto-bind-dlq: true # 自动创建并绑定死信队列 dlq-ttl: 10000 # 设置死信消息的过期时间(毫秒) bindings: input: destination: my-topic group: my-group consumer: max-attempts: 3 # 设置最大重试次数 ``` 上述配置会自动创建一个名为 `my-topic.dlq` 的死信队列,并且当消息经过多次重试失败后会被发送到该队列中。此外,`dlq-ttl` 参数用于设置死信消息在死信队列中的存活时间,超过该时间后消息将被丢弃。 ### 3. 延迟队列(Delayed Message Queue) RabbitMQ 本身并不直接支持延迟队列,但可以通过安装 `rabbitmq_delayed_message_exchange` 插件来实现延迟消息的功能。插件安装完成后,可以定义一个类型为 `x-delayed-message` 的交换器,并设置相应的延迟时间。 首先,在 RabbitMQ 中启用插件: ```bash rabbitmq-plugins enable rabbitmq_delayed_message_exchange ``` 然后,在 Spring Boot 应用程序中定义自定义的 `Exchange` 和 `QueueBinding` 配置: ```java @Bean public CustomExchange delayedExchange() { return new CustomExchange("delayed.topic", "x-delayed-message", true, false); } @Bean public Queue delayedQueue() { return QueueBuilder.durable("delayed.queue").build(); } @Bean public Binding binding() { return BindingBuilder.bind(delayedQueue()).to(delayedExchange()).with("delayed.key").noargs(); } ``` 在发送消息时,可以通过设置 `x-delay` 属性来指定消息的延迟时间: ```java MessageHeaders headers = new MessageHeaders(Collections.singletonMap("x-delay", 5000)); // 延迟5秒 Message<String> message = MessageBuilder.createMessage("Delayed Message", headers); rabbitTemplate.convertAndSend("delayed.topic", "delayed.key", message.getPayload(), message.getHeaders); ``` ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值