八、发布确认- 整合springboot (回退消息、备份交换机)

RabbitMQ目录



发布确认-高级

本节内容与之前章节:(四、RabbitMQ之发布确认模式)不冲突,这是在springboot中整合RabbitMQ的操作,之前是直接操作rabbitmq。

在生产环境中由于一些不明原因,导致 rabbitmq服务器 重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢? 特别是在比较极端的情况:RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢?

应 用 [xxx][08-1516:36:04] 发 生 [ 错 误 日 志 异 常 ] , alertId=[xxx] 。 由
[org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620] 触 发 。
应用 xxx 可能原因如下
服 务 名 为 :
异 常 为 : org.springframework.amqp.rabbit.listener.BlockingQueueConsumer:start:620,
产 生 原 因 如 下 :1.org.springframework.amqp.rabbit.listener.QueuesNotAvailableException:
Cannot prepare queue for listener. Either the queue doesn't exist or the broker will not allow us to use it.||Consumer received fatal=false exception on startup:

1、发布确认 springboot 版本

1.1. 确认机制方案

加个缓存,有两个地方可能收不到消息,一个是交换机,另外一个是队列。

1.2. 代码架构图

1.3. 配置文件

在配置文件当中需要添加:spring.rabbitmq.publisher-confirm-type=correlated

  • NONE :禁用发布确认模式,是默认值
  • CORRELATED :发布消息成功到交换器后会触发回调方法
  • SIMPLE
    • 经测试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法,
    • 其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法
      等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的点是waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker(这就是之前的同步发布确认)
# rabbitMQ所在服务器的ip地址
spring.rabbitmq.host=192.168.80.128
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123
# 开启发布确认
spring.rabbitmq.publisher-confirm-type=correlated

1.4. 添加配置类

package com.wlw.rabbitmq.config;

import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * 发布确认-高级:
 *  配置类
 */

@Configuration
public class ConfirmConfig {
    //交换机名字
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
    //队列名字
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
    //routingKey
    public static final String CONFIRM_ROUTING_KEY = "key1";

    // 声明业务 Exchange
    @Bean("confirmExchange")
    public DirectExchange confirmExchange(){
    	return new DirectExchange(CONFIRM_EXCHANGE_NAME);
    }
    // 声明队列
    @Bean("confirmQueue")
    public Queue confirmQueue(){
    	return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
    }
    // 绑定:交换机与队列
    @Bean
    public Binding queueBinding(@Qualifier("confirmQueue") Queue confirmQueue,
                                @Qualifier("confirmExchange") DirectExchange confirmExchange){
    	return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
    }
}

1.5. 消息生产者

package com.wlw.rabbitmq.controller;

import com.wlw.rabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import javax.annotation.PostConstruct;

/**
 * 发布确认-高级:
 *  生产者
 */
@RestController
@RequestMapping("/confirm")
@Slf4j
public class ConfirmProducerController {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    //发消息
    @GetMapping("sendMessage/{message}")
    public void sendMessage(@PathVariable String message){

        //指定消息 id 为 1
        CorrelationData correlationData1 = new CorrelationData("1");
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,
                ConfirmConfig.CONFIRM_ROUTING_KEY,
                message + "key1", correlationData1);
        log.info("发送消息内容:{}", message + "key1");

        
        //指定消息 id 为 2
        CorrelationData correlationData2 = new CorrelationData("2");
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE_NAME,
                ConfirmConfig.CONFIRM_ROUTING_KEY + "2",
                message + "key12", correlationData2);
        log.info("发送消息内容:{}", message + "key12");

    }
}

1.6. 回调接口【重点】

当生产者发送消息出问题时,需要感知到有问题发生,消息无论发送成不成功都会触发此回调接口。

package com.wlw.rabbitmq.config;

import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

import javax.annotation.PostConstruct;

/**
 * 发布确认-高级:
 * 回调接口
 */
@Component
@Slf4j
public class MyCallBack implements RabbitTemplate.ConfirmCallback {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    //依赖注入 rabbitTemplate 之后再设置它的回调对象
    @PostConstruct
    public void init(){
        //注入
        rabbitTemplate.setConfirmCallback(this);
    }

    /**
     * 交换机确认回调方法:成功和失败都要回调
     *
     * @param correlationData 消息相关数据:回调消息的ID及相关信息(这些是在发消息时手动添加的)
     * @param ack             交换机是否收到消息:true为是,false为否
     * @param cause           原因:成功为null,失败为失败的原因
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause){
        String id = correlationData != null ? correlationData.getId() : "";
        if(ack){
            log.info("交换机已经收到 id 为:{}的消息", id);
        }else{
            log.info("交换机还未收到 id 为:{}消息, 由于原因:{}", id, cause);
        }
    }
}

1.7. 消息消费者

package com.wlw.rabbitmq.consumer;

import com.wlw.rabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;

/**
 * 发布确认-高级:
 * 消费者
 */
@Component
@Slf4j
public class ConfirmConsumer {
	//监听队列,通过指定队列名
    @RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE_NAME)
	public void receiveMsg(Message message){
    	String msg = new String(message.getBody());
		log.info("接受到队列 confirm.queue 消息:{}",msg);
	}
}

1.8. 结果分析

正常结果:

出错的两种情况:

1、交换机出问题,我们模拟交换机出问题:发送消息时设置一个错误的交换机名字为:confirm.exchange123

可以看到,它报错了。

2、队列出问题:我们让routingKey出问题,发送消息时,设置一个不存在的routingKey。

可以看到,发送了两条消息,第一条消息的 RoutingKey 为 “key1”,第二条消息的 RoutingKey 为"key12",两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。

这也是一个问题,下面我们来看一下这个问题:

2、回退消息

2.1. Mandatory 参数

在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。

通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

  • 可以在代码中写:rabbitTemplate.setMandatory(true);
  • 也可以在配置文件中配置:
# rabbitMQ所在服务器的ip地址
spring.rabbitmq.host=192.168.80.128
spring.rabbitmq.port=5672
spring.rabbitmq.username=admin
spring.rabbitmq.password=123
# 开启发布确认
spring.rabbitmq.publisher-confirm-type=correlated
# 投递(路由)不出去,回退消息给生产者
spring.rabbitmq.publisher-returns=true

2.2. 更改回调接口 :增加回退接口

package com.wlw.rabbitmq.config;

import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.connection.CorrelationData;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

import javax.annotation.PostConstruct;

/**
 * 发布确认-高级:
 * 回调接口
 */
@Component
@Slf4j
public class MyCallBack implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnCallback {

    @Autowired
    private RabbitTemplate rabbitTemplate;

    //依赖注入 rabbitTemplate 之后再设置它的回调对象
    @PostConstruct
    public void init(){
        //注入
        rabbitTemplate.setConfirmCallback(this);
        rabbitTemplate.setReturnCallback(this);
    }

    /**
     * 交换机确认回调方法:成功和失败都要回调
     *
     * @param correlationData 消息相关数据:回调消息的ID及相关信息(这些是在发消息时手动添加的)
     * @param ack             交换机是否收到消息:true为是,false为否
     * @param cause           原因:成功为null,失败为失败的原因
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause){
        String id = correlationData != null ? correlationData.getId() : "";
        if(ack){
            log.info("交换机已经收到 id 为:{}的消息", id);
        }else{
            log.info("交换机还未收到 id 为:{}消息, 由于原因:{}", id, cause);
        }
    }

    /**
     * 回退方法,可以在当消息传递过程中 不可达目的地 时将消息返回给生产者
     * 触发时机:消息传递过程中 不可达目的地 时
     *
     * @param message    消息
     * @param replyCode  失败的返回码
     * @param replyText  失败的原因
     * @param exchange   交换机
     * @param routingKey 交换机与队列的绑定routingKey
     */
    @Override
    public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) {
        log.error(" 消 息 {}, 被 交 换 机 {} 退 回 , 退 回 原 因 :{}, 路 由 key:{}",
                new String(message.getBody()), exchange, replyText, routingKey);
    }

}

2.3. 消息生产者代码与消费者代码不用变

和上面一样。

2.4. 结果分析

3、备份交换机

接着上面内容,

有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。

而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。

如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?

前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。

什么是备份交换机呢? 备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。

3.1. 代码架构图

3.2. 修改配置类

package com.wlw.rabbitmq.config;

import org.springframework.amqp.core.*;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

/**
 * 发布确认-高级:
 *  配置类
 */

@Configuration
public class ConfirmConfig {
    //交换机名字
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
    //队列名字
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
    //routingKey
    public static final String CONFIRM_ROUTING_KEY = "key1";

    //备份交换机
    public static final String BACKUP_EXCHANGE_NAME = "backup.exchange";
    //备份队列
    public static final String BACKUP_QUEUE_NAME = "backup.queue";
    //报警队列
    public static final String WARNING_QUEUE_NAME = "warning.que";

    // 声明确认交换机Exchange
    @Bean("confirmExchange")
    public DirectExchange confirmExchange(){
        return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME)
                //持久化
                .durable(true)
                //设置该交换机的备份交换机
                .withArgument("alternate-exchange", BACKUP_EXCHANGE_NAME)
                .build();
    }
    // 声明确认队列
    @Bean("confirmQueue")
    public Queue confirmQueue(){
    	return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
    }
    // 绑定:确认交换机与确认队列
    @Bean
    public Binding queueBinding(@Qualifier("confirmQueue") Queue confirmQueue,
                                @Qualifier("confirmExchange") DirectExchange confirmExchange){
    	return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
    }


    // 声明备份交换机 Exchange
    @Bean("backupExchange")
    public FanoutExchange backupExchange(){
        return new FanoutExchange(BACKUP_EXCHANGE_NAME);
    }
    // 声明备份队列
    @Bean("backQueue")
    public Queue backQueue(){
        return QueueBuilder.durable(BACKUP_QUEUE_NAME).build();
    }
    // 声明报警队列
    @Bean("warningQueue")
    public Queue warningQueue(){
        return QueueBuilder.durable(WARNING_QUEUE_NAME).build();
    }
    // 绑定:备份交换机与备份队列
    @Bean
    public Binding backupBinding(@Qualifier("backQueue") Queue backQueue,
                                 @Qualifier("backupExchange") FanoutExchange backupExchange){
        return BindingBuilder.bind(backQueue).to(backupExchange);
    }
    // 绑定:备份交换机与报警队列
    @Bean
    public Binding warningBinding(@Qualifier("warningQueue") Queue warningQueue,
                                  @Qualifier("backupExchange") FanoutExchange backupExchange){
        return BindingBuilder.bind(warningQueue).to(backupExchange);
    }
}

3.3. 增加一个报警消费者

package com.wlw.rabbitmq.consumer;

import com.wlw.rabbitmq.config.ConfirmConfig;
import lombok.extern.slf4j.Slf4j;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;

/**
 * 发布确认-高级:
 *  报警消费者
 */
@Component
@Slf4j
public class WarningConsumer {
	
    @RabbitListener(queues = ConfirmConfig.WARNING_QUEUE_NAME)
    public void receiveWarningMsg(Message message) {
        String msg = new String(message.getBody());
    	log.error("报警发现不可路由消息:{}", msg);
    }
}

3.4. 生产者代码和之前的消费者不用变

3.5. 结果分析

重新启动项目的时候需要把原来的confirm.exchange 删除,因为我们修改了其绑定属性,不然报以下错:

处理好之后,执行生产者,看结果:

mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,消息究竟何去何从?是回退消息呢?还是转发到备份交换机呢?谁优先级高,执行谁。

经过上面结果显示答案是备份交换机优先级高。

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

悬浮海

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值