目录
⚠️问题:如果有新的时间需求,要建立新的队列,太麻烦
⚠️问题:有个硬伤,就是消息是否过期是在即将投递前判定的,所以如果前一条消息生存时间比后面的长或者产生消息积压。则后面的消息生存时间可能会延长 如:我们先发一个延时时长为50s的消息,然后发一个延时时长为2s的消息, 结果显示,第二个消息会在等第一个消息成为死信后才会“死亡“。
公司最近需要用到rabbitmq,考虑到业务需求,后期可能需要用到mq延时消费机制。工作一年,对很多技术都不了解,还是一名技术小白,决定主动学习研究一下。
在网上查阅浏览了许多帖子,关于延时消费主要分为两种实现,一种是rabbitmq的TTL机制,一种是rabbitmq的插件实现。
感谢以下楼主的经验分享:
https://www.cnblogs.com/boshen-hzb/p/6841982.html springboot和rabbitmq整合
https://blog.youkuaiyun.com/u014308482/article/details/53036770 延时消费的两种实现
mac 安装 RabbitMQ_东子的博客 细节决定成败,点滴铸就辉煌。-优快云博客_mac rabbitmq mac安装rabbitmq
以下为自己根据网上资料学习后得出的个人总结,如有错误之处,欢迎指正。
实现一:TTL
TTL指过期时间,rabbitmq可以通过设置队列的过期时间或者消息的过期时间实现延时消费。
准备工作:
安装rabbitmq
添加相关maven依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
设置队列过期时间实现延时消费
交换机及队列配置,公司用的spring-boot框架,为简化步骤,我直接配在启动类。
代码中有四个配置,第一个配置的exchange是用来接收已过期的队列信息并进行重新分配队列进行消费,第二个配置的repeatTradeQueue为exchange重新分配的队列名,第三个是将repeatTradeQueue队列与exchange交换机绑定,并指定对应的routing key,第四个配置的就是我们要设置过期时间的队列deadLetterQueue,配置中有三个参数,x-message-ttl为过期时间,该队列所有消息的过期时间都为我们配置的这个值,单位为毫秒,这里我设置过期时间为3秒,x-dead-letter-exchange是指过期消息重新转发到指定交换机,也就是exchange,x-dead-letter-routing-key是该交换机上绑定的routing-key,将通过配置的routing-key分配对应的队列,也就是前面配置的repeatTradeQueue。
import java.util.HashMap;
import java.util.Map;
import org.springframework.amqp.core.Binding;
import org.springframework.amqp.core.BindingBuilder;
import org.springframework.amqp.core.DirectExchange;
import org.springframework.amqp.core.Queue;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
@SpringBootApplication
public class Application {
//交换机用于重新分配队列
@Bean
DirectExchange exchange() {
return new DirectExchange("exchange");
}
//用于延时消费的队列
@Bean
public Queue repeatTradeQueue() {
Queue queue = new Queue("repeatTradeQueue",true,false,false);
return queue;
}
//绑定交换机并指定routing key
@Bean
public Binding repeatTradeBinding() {
return BindingBuilder.bind(repeatTradeQueue()).to(exchange()).with("repeatTradeQueue");
}
//配置死信队列
@Bean
public Queue deadLetterQueue() {
Map<String,Object> args = new HashMap<>();
args.put("x-message-ttl", 3000);
args.put("x-dead-letter-exchange", "exchange");
args.put("x-dead-letter-routing-key", "repeatTradeQueue");
return new Queue("deadLetterQueue", true, false, false, args);
}
public static void main(String[] args) throws Exception {
SpringApplication.run(Application.class, args);
}
}
配置生产者,这里生产者需要指定前面配置了过期时间的队列deadLetterQueue
import java.time.LocalDateTime;
import org.springframework.amqp.core.AmqpTemplate;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
@Component
public class DeadLetterSender {
@Autowired
private AmqpTemplate rabbitTemplate;
public void send(String msg) {
System.out.println("DeadLetterSender 发送时间:"+LocalDateTime.now().toString()+" msg内容:"+msg);
rabbitTemplate.convertAndSend("deadLetterQueue", msg);
}
}
配置消费者,消费者监听指定用于延时消费的队列repeatTradeQueue
import java.time.LocalDateTime;
@Component
@RabbitListener(queues = "repeatTradeQueue")
public class RepeatTradeReceiver {
@RabbitHandler
public void process(String msg) {
System.out.println("repeatTradeQueue 接收时间:"+LocalDateTime.now().toString()+" 接收内容:"+msg);
}
}
写一个简单的接口调用测试延时消费是否成功
import org.springframework.beans.factory.annotation.Autowired;
@RestController
@RequestMapping("/rabbit")
public class RabbitTest {
@Autowired
private DeadLetterSender deadLetterSender;
@GetMapping("/deadTest")
public void deadTest() {
deadLetterSender.send("队列设置过期时间测试");
}
}
启动项目开始测试
发送端和接收端时间间隔3秒(毫秒差就不要较真了⊙﹏⊙|||)
设置消息过期时间实现延时消费
还是先贴上配置的代码,基本配置都一样,唯一的区别是deadLetterQueue的过期时间这里不做配置,需要注意的是,因为我这里用的是同一个队列名,所以即使将队列过期时间配置删除,mq中该队列过期时间仍然还是存在的,所以需要删除该队列,启动项目时才能重新配置该队列属性,可能可以通过配置的方式重新覆盖属性配置,小白没研究出来(ಥ_ಥ),当然也可以保留队列过期时间的配置,当两个过期时间都存在时,消息取更小的过期时间。
import java.util.HashMap;
@SpringBootApplication
public class Application {
//用于死信队列转发的交换机
@Bean
DirectExchange exchange() {
return new DirectExchange("exchange");
}
//用于延时消费的队列
@Bean
public Queue repeatTradeQueue() {
Queue queue = new Queue("repeatTradeQueue",true,false,false);
return queue;
}
//绑定交换机并指定routing key
@Bean
public Binding repeatTradeBinding() {
return BindingBuilder.bind(repeatTradeQueue()).to(exchange()).with("repeatTradeQueue");
}
//配置死信队列
@Bean
public Queue deadLetterQueue() {
Map<String,Object> args = new HashMap<>();
args.put("x-dead-letter-exchange", "exchange");
args.put("x-dead-letter-routing-key", "repeatTradeQueue");
return new Queue("deadLetterQueue", true, false, false, args);
}
public static void main(String[] args) throws Exception {
SpringApplication.run(Application.class, args);
}
}
配置生产者,message的expiration就是过期时间的设置,单位也是毫秒
import java.time.LocalDateTime;
import org.springframework.amqp.AmqpException;
import org.springframework.amqp.core.AmqpTemplate;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.core.MessagePostProcessor;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
@Component
public class DeadLetterSender {
@Autowired
private AmqpTemplate rabbitTemplate;
public void send(String msg, long times) {
System.out.println("DeadLetterSender 发送时间:" + LocalDateTime.now().toString() + " msg内容:" + msg);
MessagePostProcessor processor = new MessagePostProcessor() {
@Override
public Message postProcessMessage(Message message) throws AmqpException {
message.getMessageProperties().setExpiration(times + "");
return message;
}
};
rabbitTemplate.convertAndSend("deadLetterQueue", (Object)msg, processor);
}
}
消费者不变,用之前的类即可
稍微修改一下接口,设置时间为5秒
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import me.miaobo.mq.sender.DeadLetterSender;
@RestController
@RequestMapping("/rabbit")
public class RabbitTest {
@Autowired
private DeadLetterSender deadLetterSender;
@GetMapping("/deadTest")
public void deadTest() {
deadLetterSender.send("消息设置过期时间测试",5000);
}
}
补充一下队列的删除,在控制台选择queues菜单,找到我们配置的队列,点击名称进详情,操作介绍有点傻,不清楚mq的可以看看之前的链接贴。
Mac 安装 rabbitmq
进入详情界面可以看到之前的配置,过期时间3秒,自己通过项目重启发现过期时间并不会删除,只好在管理界面手动删除。
下拉详情页面,找到删除按钮,删除该队列
启动服务,测试接口
时间相隔5秒,和接口设置的时间保持一致。
为了验证队列和消息过期时间同时配置时取最小值,我又删除了队列一遍,把队列3秒过期时间加上。
继续测试 (●゚ω゚●),还是用之前的接口测试。
不再是接口设置的5秒过期时间,而是队列设置的3秒过期时间生效。
实现二:插件实现
rabbitmq 安装rabbitmq_delayed_message_exchange插件(版本要求网上说3.5.7以上,未验证低版本问题,安装的3.7.7版本)
插件包放在rabbit安装目录/plugins/菜单下
运行命令
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
安装Erlang(版本要求网上说18.0以上,未验证低版本问题,homebrew自动安装的20.3.8.2版本)
mac通过brew命令安装
brew install erlang
windows的没研究,可以自己百度下(~ ̄▽ ̄)~
插件实现延时消费时踩了个坑,就是插件包版本有问题,自己在网上下载别人分享的包,结果测试一直不通过,折腾了挺久没找到原因,怀疑是插件包的问题,就去官网下载了对应3.7.7版本的插件包。
安装完成后去管理页面验证插件是否有效
插件若安装成功,type类型会有多一个x-delayed-message,rabbitmq默认是没有的,add一个exchange,选择该类型,添加成功说明插件启用成功。我是没测试add,结果直接去写demo测试了,结果一直启动报错还不知道原因,后来发现是插件包的问题/(ㄒoㄒ)/~~。
接着就是延时队列的配置
注意delayedExchange是用的自定义类型,类型为x-delayed-message,x-delayed-type要求是rabbitmq的类型,取direct,topic,fanout,headers类型中的一个,x-delayed-type说实话不知道具体干嘛用的,就这么照着配置了 ( ̄3 ̄)。
import java.util.HashMap;
@SpringBootApplication
public class Application {
/**
* 自定义的交换机类型
* @return
*/
@Bean
CustomExchange delayedExchange() {
Map<String,Object> args = new HashMap<>();
args.put("x-delayed-type", "direct");
return new CustomExchange("delayedExchange","x-delayed-message",true,false,args);
}
/**
* 创建一个队列
* @return
*/
@Bean
public Queue delayedQueue() {
return new Queue("delayedQueue",true);
}
/**
* 绑定队列到自定义交换机
* @return
*/
@Bean
public Binding bindingNotify() {
return BindingBuilder.bind(delayedQueue()).to(delayedExchange()).with("delayedQueue").noargs();
}
public static void main(String[] args) throws Exception {
SpringApplication.run(Application.class, args);
}
}
配置生产者,这里对message的header信息进行配置,配置的x-delay参数就是延时时间,单位也是毫秒,指定绑定的交换机名称以及routing key
import java.time.LocalDateTime;
import org.springframework.amqp.AmqpException;
import org.springframework.amqp.core.AmqpTemplate;
import org.springframework.amqp.core.Message;
import org.springframework.amqp.core.MessagePostProcessor;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
@Component
public class DelayedSender {
@Autowired
private AmqpTemplate rabbitTemplate;
public void send(String msg, long time) {
System.out.println("DelayedSender 发送时间: " + LocalDateTime.now() + " msg内容:" + msg);
MessagePostProcessor messagePostProcessor = new MessagePostProcessor() {
@Override
public Message postProcessMessage(Message message) throws AmqpException {
message.getMessageProperties().setHeader("x-delay", time);
return message;
}
};
this.rabbitTemplate.convertAndSend("delayedExchange", "delayedQueue", msg, messagePostProcessor);
}
}
配置消费者,监听对应的队列名称delayedQueue
import java.time.LocalDateTime;
import org.springframework.amqp.rabbit.annotation.RabbitHandler;
import org.springframework.amqp.rabbit.annotation.RabbitListener;
import org.springframework.stereotype.Component;
@Component
@RabbitListener(queues = "delayedQueue")
public class DelayedReceiver {
@RabbitHandler
public void process(String msg) {
System.out.println("DelayedReceiver 接受时间: " + LocalDateTime.now() + " msg内容:" + msg);
}
}
写接口测试
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import me.miaobo.mq.sender.DelayedSender;
@RestController
@RequestMapping("/rabbit")
public class RabbitTest {
@Autowired
private DelayedSender delayedSender;
@GetMapping("/delayedTest")
public void delayedTest() {
delayedSender.send("插件实现延时队列",6000);
}
}
启动项目测试,延迟时间为接口设置的6秒。
以上为自己对mq延时消费机制的简单实现,分享给初学mq的程序猿们,学习记录,仅供参考,欢迎评论区补充指点!