MQ 的相关概念
什么是 MQ
MQ(message queue),从字面意思上看,本质是个队列,FIFO 先入先出,只不过队列中存放的内容是 message 而已,还是一种跨进程的通信机制,用于上下游传递消息。在互联网架构中,MQ 是一种非常常 见的上下游“逻辑解耦+物理解耦”的消息通信服务。使用了 MQ 之后,消息发送上游只需要依赖 MQ,不 用依赖其他服务。
为什么要用 MQ
1.流量消峰
举个例子,如果订单系统最多能处理一万次订单,这个处理能力应付正常时段的下单时绰绰有余,正 常时段我们下单一秒后就能返回结果。但是在高峰期,如果有两万次下单操作系统是处理不了的,只能限 制订单超过一万后不允许用户下单。使用消息队列做缓冲,我们可以取消这个限制,把一秒内下的订单分 散成一段时间来处理,这时有些用户可能在下单十几秒后才能收到下单成功的操作,但是比不能下单的体 验要好。
2.应用解耦
以电商应用为例,应用中有订单系统、库存系统、物流系统、支付系统。用户创建订单后,如果耦合 调用库存系统、物流系统、支付系统,任何一个子系统出了故障,都会造成下单操作异常。当转变成基于 消息队列的方式后,系统间调用的问题会减少很多,比如物流系统因为发生故障,需要几分钟来修复。在 这几分钟的时间里,物流系统要处理的内存被缓存在消息队列中,用户的下单操作可以正常完成。当物流 系统恢复后,继续处理订单信息即可,中单用户感受不到物流系统的故障,提升系统的可用性。
3.异步处理
有些服务间调用是异步的,例如 A 调用 B,B 需要花费很长时间执行,但是 A 需要知道 B 什么时候可 以执行完,以前一般有两种方式,A 过一段时间去调用 B 的查询 api 查询。或者 A 提供一个 callback api, B 执行完之后调用 api 通知 A 服务。这两种方式都不是很优雅,使用消息总线,可以很方便解决这个问题, A 调用 B 服务后,只需要监听 B 处理完成的消息,当 B 处理完成后,会发送一条消息给 MQ,MQ 会将此 消息转发给 A 服务。这样 A 服务既不用循环调用 B 的查询 api,也不用提供 callback api。同样 B 服务也不 用做这些操作。A 服务还能及时的得到异步处理成功的消息。
四大核心概念
生产者
产生数据发送消息的程序是生产者
交换机
交换机是 RabbitMQ 非常重要的一个部件,一方面它接收来自生产者的消息,另一方面它将消息 推送到队列中。交换机必须确切知道如何处理它接收到的消息,是将这些消息推送到特定队列还是推 送到多个队列,亦或者是把消息丢弃,这个得有交换机类型决定
队列
队列是 RabbitMQ 内部使用的一种数据结构,尽管消息流经 RabbitMQ 和应用程序,但它们只能存 储在队列中。队列仅受主机的内存和磁盘限制的约束,本质上是一个大的消息缓冲区。许多生产者可 以将消息发送到一个队列,许多消费者可以尝试从一个队列接收数据。这就是我们使用队列的方式
消费者
消费与接收具有相似的含义。消费者大多时候是一个等待接收消息的程序。请注意生产者,消费 者和消息中间件很多时候并不在同一机器上。同一个应用程序既可以是生产者又是可以是消费者。
Linux系统中安装RabbitMQ
1.官网地址 https://www.rabbitmq.com/download.html (本机中有相关文件)
2.文件上传 上传到/usr/local/software 目录下(如果没有 software 需要自己创建)
3.安装文件(分别按照以下顺序安装)
rpm -ivh erlang-21.3-1.el7.x86_64.rpm
yum install socat -y
rpm -ivh rabbitmq-server-3.8.8-1.el7.noarch.rpm
4.常用命令(按照以下顺序执行)
添加开机启动 RabbitMQ 服务 chkconfig rabbitmq-server on
启动服务 /sbin/service rabbitmq-server start
查看服务状态 /sbin/service rabbitmq-server status
停止服务(选择执行) /sbin/service rabbitmq-server stop
开启 web 管理插件 rabbitmq-plugins enable rabbitmq_management
用默认账号密码(guest)访问地址 http://192.168.111.100:15672/出现权限问题
5.添加一个新的用户
创建账号 rabbitmqctl add_user admin 123
设置用户角色 rabbitmqctl set_user_tags admin administrator
设置用户权限 set_permissions [-p ] rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"
用户 user_admin 具有/vhost1 这个 virtual host 中所有资源的配置、写、读权限 当前用户和角色 rabbitmqctl list_users
6.再次利用 admin 用户登录
7. 重置命令 关闭应用的命令为 rabbitmqctl stop_app
清除的命令为 rabbitmqctl reset
重新启动命令为 rabbitmqctl start_app
IDEA集成开发RabbitMQ
引入依赖:
<!--指定 jdk 编译版本-->
<build>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<configuration>
<source>8</source>
<target>8</target>
</configuration>
</plugin>
</plugins>
</build>
<dependencies>
<!--rabbitmq 依赖客户端-->
<dependency>
<groupId>com.rabbitmq</groupId>
<artifactId>amqp-client</artifactId>
<version>5.8.0</version>
</dependency>
<!--操作文件流的一个依赖-->
<dependency>
<groupId>commons-io</groupId>
<artifactId>commons-io</artifactId>
<version>2.6</version>
</dependency>
</dependencies>
Hello World
接下来,我们将用 Java 编写两个程序。发送单个消息的生产者和接收消息并打印 出来的消费者。我们将介绍 Java API 中的一些细节。
消息生产者
public class Producer { //队列名称 public static final String QUEUE_NAME = "hello"; //发消息 public static void main(String[] args) throws Exception{ //创建一个连接工厂 ConnectionFactory factory = new ConnectionFactory(); //工厂IP 链接RabbitMQ队列 factory.setHost("192.168.111.100"); //用户名 factory.setUsername("admin"); //密码 factory.setPassword("admin"); //创建链接 Connection connection = factory.newConnection(); //获取信道 Channel channel = connection.createChannel(); /** * 生成一个队列 * 1.队列名称 * 2.队列里面的消息是否持久化(磁盘) 默认情况消息存储在内存中 * 3.该队列是否只供一个消费者进行消费 是否进行消息共享,true可以多个消费者消费 * 4.是否自动删除 最后一个消费之断开链接之后 该队列是否自动删除 true自动删除 * 5.其他参数 */ channel.queueDeclare(QUEUE_NAME,false,false,false,null); //发消息 String message = "hello world"; /** * 发送一个消息 * 1.发送到那个交换机 * 2.路由的Key值是哪个 本次是队列的名称 * 3.其他参数信息 * 4.发送消息的消息体 */ channel.basicPublish("",QUEUE_NAME,null,message.getBytes()); System.out.println("消息发送完毕"); }
消息消费者
public class Consumer { //队列的名称 public static final String QUEUE_NAME = "hello"; //接收消息 public static void main(String[] args) throws Exception{ //创建连接工厂 ConnectionFactory factory = new ConnectionFactory(); factory.setHost("192.168.111.100"); factory.setUsername("admin"); factory.setPassword("admin"); Connection connection = factory.newConnection(); Channel channel = connection.createChannel(); //声明 接收消息 DeliverCallback deliverCallback = (consumerTag,message) -> { System.out.println(new String(message.getBody())); }; //取消消息时的回调 CancelCallback cancelCallback = consumerTag -> { System.out.println("消费消息被中断"); }; /** * 消费者接收消息 * 1.消费那个队列 * 2.消费成功之后是否要自动应答 true代表自动应答 * 3.消费之未成功消费的回调 * 4.消费者取消消费的回调 */ channel.basicConsume(QUEUE_NAME,true,deliverCallback,cancelCallback); } }
Work Queues
工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务,而不得不等待它完成。 相反我们安排任务在之后执行。我们把任务封装为消息并将其发送到队列。在后台运行的工作进 程将弹出任务并最终执行作业。当有多个工作线程时,这些工作线程将一起处理这些任务。
抽取工具类
public class RabbitMqUtils { //得到一个连接的 channel public static Channel getChannel() throws Exception{ //创建一个连接工厂 ConnectionFactory factory = new ConnectionFactory(); factory.setHost("192.168.111.100"); factory.setUsername("admin"); factory.setPassword("admin"); Connection connection = factory.newConnection(); Channel channel = connection.createChannel(); return channel; } }
启动两个工作线程
public class Worker01 { //队列名称 public static final String QUEUE_NAME = "hello"; //接收消息 public static void main(String[] args) throws Exception { Channel channel = RabbitMqUtils.getChannel(); //声明 接收消息 DeliverCallback deliverCallback = (consumerTag, message) -> { System.out.println("接收到的消息:" + new String(message.getBody())); }; //取消消息时的回调 CancelCallback cancelCallback = consumerTag -> { System.out.println(consumerTag + "消费者取消消费接口回调逻辑"); }; //消息的接收 /** * 消费者接收消息 * 1.消费那个队列 * 2.消费成功之后是否要自动应答 true代表自动应答 * 3.消费者未成功消费的回调 * 4.消费者取消消费的回调 */ System.out.println("C2等待接收消息............."); channel.basicConsume(QUEUE_NAME, true, deliverCallback, cancelCallback); } }
启动一个发送线程
public class Task01 { //队列名称 public static final String QUEUE_NAME = "hello"; //发送大量的消息 public static void main(String[] args) throws Exception{ Channel channel = RabbitMqUtils.getChannel(); /** * 生成一个队列 * 1.队列名称 * 2.队列里面的消息是否持久化(磁盘) 默认情况消息存储在内存中 * 3.该队列是否只供一个消费者进行消费 是否进行消息共享,true可以多个消费者消费 * 4.是否自动删除 最后一个消费之断开链接之后 该队列是否自动删除 true自动删除 * 5.其他参数 */ channel.queueDeclare(QUEUE_NAME,false,false,false,null); //从控制台当中接收消息 Scanner scanner = new Scanner(System.in); while(scanner.hasNext()){ String message = scanner.next(); /** * 发送一个消息 * 1.发送到那个交换机 * 2.路由的Key值是哪个 本次是队列的名称 * 3.其他参数信息 * 4.发送消息的消息体 */ channel.basicPublish("",QUEUE_NAME,null,message.getBytes()); System.out.println("发送消息完成"+message); } } }
结果发现,发送的消息会以轮询的方式由两个消费端显示
消息应答
概念
消费者完成一个任务可能需要一段时间,如果其中一个消费者处理一个长的任务并仅只完成 了部分突然它挂掉了,会发生什么情况。RabbitMQ 一旦向消费者传递了一条消息,便立即将该消 息标记为删除。在这种情况下,突然有个消费者挂掉了,我们将丢失正在处理的消息。以及后续 发送给该消费这的消息,因为它无法接收到。
为了保证消息在发送过程中不丢失,rabbitmq 引入消息应答机制,消息应答就是:消费者在接 收到消息并且处理该消息之后,告诉 rabbitmq 它已经处理了,rabbitmq 可以把该消息删除了。
自动应答
消息发送后立即被认为已经传送成功,这种模式需要在高吞吐量和数据传输安全性方面做权 衡,因为这种模式如果消息在接收到之前,消费者那边出现连接或者 channel 关闭,那么消息就丢 失了,当然另一方面这种模式消费者那边可以传递过载的消息,没有对传递的消息数量进行限制, 当然这样有可能使得消费者这边由于接收太多还来不及处理的消息,导致这些消息的积压,最终 使得内存耗尽,最终这些消费者线程被操作系统杀死,所以这种模式仅适用在消费者可以高效并 以某种速率能够处理这些消息的情况下使用。
消息应答的方法
A.Channel.basicAck(用于肯定确认) RabbitMQ 已知道该消息并且成功的处理消息,可以将其丢弃了
B.Channel.basicNack(用于否定确认)
C.Channel.basicReject(用于否定确认) 与 Channel.basicNack 相比少一个参数 不处理该消息了直接拒绝,可以将其丢弃了
消息自动重新入队
如果消费者由于某些原因失去连接(其通道已关闭,连接已关闭或 TCP 连接丢失),导致消息 未发送 ACK 确认,RabbitMQ 将了解到消息未完全处理,并将对其重新排队。如果此时其他消费者 可以处理,它将很快将其重新分发给另一个消费者。这样,即使某个消费者偶尔死亡,也可以确 保不会丢失任何消息。
默认消息采用的是自动应答,所以我们要想实现消息消费过程中不丢失,需要把自动应答改 为手动应答,消费者在上面代码的基础上增加下面部分代码。
//消息生产者
public class Task2 {
//队列名称
public static final String TASK_QUEUE_NAME = "ack_queue";
//发消息
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
//声明队列
channel.queueDeclare(TASK_QUEUE_NAME,false,false,false,null);
//从控制台输入信息
Scanner scanner = new Scanner(System.in);
while(scanner.hasNext()){
String message = scanner.next();
channel.basicPublish("",TASK_QUEUE_NAME,null,message.getBytes("UTF-8"));
System.out.println("生产者发出消息:"+message);
}
}
}
//消息消费者01
public class Worker03 {
//队列名称
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C1等待接收消息处理,时间较短");
//声明 接收消息
DeliverCallback deliverCallback = (consumerTag, message) -> {
//沉睡1秒
SleepUtils.sleep(1);
System.out.println("接收到的消息:"+new String(message.getBody()));
/**
* 手动应答
* 1.消息的标记 tag
* 2.是否批量
*/
channel.basicAck(message.getEnvelope().getDeliveryTag(),false);
};
//采用手动应答
channel.basicConsume(TASK_QUEUE_NAME,false,deliverCallback,cancelCallback -> {});
}
}
//消息消费者02
public class Worker04 {
//队列名称
public static final String TASK_QUEUE_NAME = "ack_queue";
public static void main(String[] args) throws Exception{
Channel channel = RabbitMqUtils.getChannel();
System.out.println("C2等待接收消息处理,时间较长");
//声明 接收消息
DeliverCallback deliverCallback = (consumerTag, message) -> {
//沉睡1秒
SleepUtils.sleep(30);
System.out.println("接收到的消息:"+new String(message.getBody()));
/**
* 手动应答
* 1.消息的标记 tag
* 2.是否批量
*/
channel.basicAck(message.getEnvelope().getDeliveryTag(),false);
};
//采用手动应答
channel.basicConsume(TASK_QUEUE_NAME,false,deliverCallback,cancelCallback -> {});
}
}
//睡眠工具类
public class SleepUtils {
public static void sleep(int second){
try {
Thread.sleep(1000*second);
} catch (InterruptedException _ignored) {
Thread.currentThread().interrupt();
}
}
}
正常情况下消息发送方发送两个消息 C1 和 C2 分别接收到消息并进行处理
在发送者发送消息 dd,发出消息之后的把 C2 消费者停掉,按理说该 C2 来处理该消息,但是 由于它处理时间较长,在还未处理完,也就是说 C2 还没有执行 ack 代码的时候,C2 被停掉了, 此时会看到消息被 C1 接收到了,说明消息 dd 被重新入队,然后分配给能处理消息的 C1 处理了