什么是mq?
消息队列(Message Queue,简称MQ):是在消息的传输过程中保存消息的容器。用于分布式系统之间进行通信。
MQ有几种?如何选择?
RabbitMQ | ActiveMQ | RocketMQ | Kafka | |
---|---|---|---|---|
公司/社区 | Rabbit | Apache | 阿里 | Apache |
开发语言 | Erlang | Java | Java | Scala&Java |
协议 | AMQP | OpenWire、AUTO、Stomp、MQTT | 自定义 | 自定义 |
单机吞吐量 | 万级 | 万级(最差) | 十万级 | 十万级 |
消息延迟 | 微妙级 | 毫秒级 | 毫秒级 | 毫秒以内 |
特性 | 并发能力很强,延时很低 | 老牌产品,文档较多 | MQ功能比较完备,扩展性佳 | 只支持主要的MQ功能,毕竟是为大数据领域准备的。 |
综合上面得出以下两点:
- 中小型软件公司,建议选RabbitMQ.一方面,erlang语言天生具备高并发的特性,RabbitMQ的社区十分活跃,可以解决开发过程中遇到的bug,这点对于中小型公司来说十分重要。不考虑rocketmq和kafka的原因是中小型软件公司不如互联网公司,数据量没那么大,选消息中间件,应首选功能比较完备的,所以kafka和rocketmq排除。
- 大型软件公司,根据具体使用在rocketMq和kafka之间二选一。一方面,大型软件公司,具备足够的资金搭建分布式环境,也具备足够大的数据量。针对rocketMQ,大型软件公司也可以抽出人手对rocketMQ进行定制化开发,毕竟国内有能力改JAVA源码的人,还是相当多的。至于kafka,根据业务场景选择,如果有日志采集功能,肯定是首选kafka了。
什么是RabbitMQ?
rabbitmq是erlang语言编写实现AMQP协议的消息中间件
什么是AMQP?
AMQP,即 Advanced Message Queuing Protocol(高级消息队列协议),是一个网络协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件不同产品,不同的开发语言等条件的限制。2006年,AMQP规范发布。类比HTTP。
为什么用RabbitMQ?
解决了传统模式的耦合度过高,不能异步处理,大并发问题
1.解耦
传统模式:系统间耦合性太强,如系统A在代码中直接调用系统B和系统C的代码,如果将来D系统接入,系统A还需要修改代码,过于麻烦!
中间件模式:只需要将消息写入消息队列,需要消息的系统自己从消息队列中订阅,从而系统A不需要做任何修改。
2.异步
传统模式: 一些非必要的业务逻辑以同步的方式运行,太耗费时间
中间件模式: 将消息写入消息队列,非必要的业务逻辑以异步的方式运行,加快响应速度
3.削峰
传统模式:并发量大的时候,所有的请求直接怼到数据库,造成数据库连接异常
中间件模式: 系统A慢慢的按照数据库能处理的并发量,从消息队列中慢慢拉取消息
安装RabbitMQ
官网下载地址:http://www.rabbitmq.com/download.html
以linux版安装为例
安装Erlang
依次执行以下命令即可
rpm -ivh esl-erlang-17.3-1.x86_64.rpm --force --nodeps
rpm -ivh esl-erlang_17.3-1~centos~6_amd64.rpm --force --nodeps
rpm -ivh esl-erlang-compat-R14B-1.el6.noarch.rpm --force --nodeps
安装RabbitMQ
安装命令
rpm -ivh rabbitmq-server-3.4.1-1.noarch.rpm
启动,停止命令
service rabbitmq-server start #启动
service rabbitmq-server stop #停止
service rabbitmq-server restart #重启
service rabbitmq-server status #查看状态
开机自启命令
chkconfig rabbitmq-server on
开放防火墙端口:15672
/sbin/iptables -I INPUT -p tcp --dport 15672 -j ACCEPT
/etc/rc.d/init.d/iptables save
开启web界面管理工具
rabbitmq-plugins enable rabbitmq_management
service rabbitmq-server restart
启动后,RabbitMQ有一个默认账号guest,密码也是guest
账号guest具有所有的操作权限,并且又是默认账号,出于安全因素的考虑,guest用户只能通过localhost登陆
创建账户
我们也可以使用命令创建一个账号
1.创建账号
rabbitmqctl add_user admin 1111
2.设置用户角色
rabbitmqctl set_user_tags admin administrator
3.设置用户权限
rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"
4.设置完成后可以查看当前用户和角色(需要开启服务)
rabbitmqctl list_users
页面
主页总览
connections:无论生产者还是消费者,都需要与RabbitMQ建立连接后才可以完成消息的生产和消费,在这里可以查看连接情况
channels:通道,建立连接后,会形成通道,消息的投递获取依赖通道。
Exchanges:交换机,用来实现消息的路由
Queues:队列,即消息队列,消息存放在队列中,等待消费,消费后被移除队列。
端口:
5672: rabbitMq的编程语言客户端连接端口
15672:rabbitMq管理界面端口
25672:rabbitMq集群的端口
添加用户
1、 超级管理员(administrator)
可登陆管理控制台,可查看所有的信息,并且可以对用户,策略(policy)进行操作。
2、 监控者(monitoring)
可登陆管理控制台,同时可以查看rabbitmq节点的相关信息(进程数,内存使用情况,磁盘使用情况等)
3、 策略制定者(policymaker)
可登陆管理控制台, 同时可以对policy进行管理。但无法查看节点的相关信息(上图红框标识的部分)。
4、 普通管理者(management)
仅可登陆管理控制台,无法看到节点信息,也无法对策略进行管理。
5、 其他
无法登陆管理控制台,通常就是普通的生产者和消费者。
创建Virtual Hosts
虚拟主机:类似于mysql中的database。他们都是以“/”开头
设置权限
1、点击用户名
2、设置权限
3、查看效果
工具类
编写一个建立RabbitMQ连接的工具类,方便其他程序获取连接:
package com.bjpowernode.util;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.Connection;
public class ConnectionUtil {
/**
* 建立与RabbitMQ的连接
* @return
* @throws Exception
*/
public static Connection getConnection() throws Exception {
//定义连接工厂
ConnectionFactory factory = new ConnectionFactory();
//设置服务地址
factory.setHost("192.168.255.138");
//端口
factory.setPort(5672);
//设置账号信息,用户名、密码、vhost
factory.setUsername("admin");
factory.setPassword("1111");
factory.setVirtualHost("/");
// 通过工程获取连接
Connection connection = factory.newConnection();
return connection;
}
}
五种消息模型
RabbitMQ提供了6种消息模型,但是第6种其实是RPC,并不是MQ。那么也就剩下5种。
但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同。
Simple-简单模型
RabbitMQ是一个消息代理:它接受和转发消息。 你可以把它想象成一个邮政信箱
RabbitMQ与邮局的主要区别是它不处理纸张,而是接受,存储和转发数据消息的二进制数据块。
P(producer/ publisher):生产者,一个发送消息的用户应用程序。
C(consumer):消费者,消费和接收有类似的意思,消费者是一个主要用来等待接收消息的用户应用程序
队列(红色区域):rabbitmq内部类似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序,但是它们只能存储在队列中。队列只受主机的内存和磁盘限制,实质上是一个大的消息缓冲区。许多生产者可以发送消息到一个队列,许多消费者可以尝试从一个队列接收数据。
总之:
生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。
我们将用Java编写两个程序;发送单个消息的生产者,以及接收消息并将其打印出来的消费者。我们将详细介绍Java API中的一些细节,这是一个消息传递的“Hello World”。
我们将调用我们的消息发布者(发送者)Send和我们的消息消费者(接收者)Recv。发布者将连接到RabbitMQ,发送一条消息,然后退出。
编写生产者发送消息
public class Send {
private final static String QUEUE_NAME = "simple_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接以及mq通道
Connection connection = ConnectionUtil.getConnection();
// 轻量级的 Connection,这是完成大部分API的地方。
Channel channel = connection.createChannel();
// 声明(创建)队列,必须声明队列才能够发送消息,我们可以把消息发送到队列中。
// 声明一个队列是幂等的 - 只有当它不存在时才会被创建
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 消息内容
String message = "Hello World!";
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println(" Sent '" + message + "'");
//关闭通道和连接
channel.close();
connection.close();
}
}
管理工具中查看消息
进入队列页面,可以看到新建了一个队列:simple_queue
点击队列名称,进入详情页,可以查看消息:
在控制台查看消息并不会将消息消费,所以消息还在。
编写消费者接受消息
public class Recv {
private final static String QUEUE_NAME = "simple_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接
Connection connection = ConnectionUtil.getConnection();
// 创建通道
Channel channel = connection.createChannel();
// 声明队列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 定义队列的消费者
DefaultConsumer consumer = new DefaultConsumer(channel) {
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope,
BasicProperties properties,byte[] body) throws IOException {
// body 即消息体
String msg = new String(body);
System.out.println(" received : " + msg + "!");
}
};
// 监听队列,第二个参数:是否自动进行消息确认。
channel.basicConsume(QUEUE_NAME, true, consumer);
}
}
当消费者接受消息后,队列中的消息就没了:
我们发现,消费者已经获取了消息,但是程序没有停止,一直在监听队列中是否有新的消息。一旦有新的消息进入队列,就会立即打印.
消息确认机制(ACK)
通过刚才的案例可以看出,消息一旦被消费者接收,队列中的消息就会被删除。
那么问题来了:RabbitMQ怎么知道消息被接收了呢?
如果消费者领取消息后,还没执行操作就挂掉了呢?或者抛出了异常?消息消费失败,但是RabbitMQ无从得知,这样消息就丢失了!
因此,RabbitMQ有一个ACK机制。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:
- 自动ACK:消息一旦被接收,消费者自动发送ACK
- 手动ACK:消息接收后,不会发送ACK,需要手动调用
哪种更好呢?
这需要看消息的重要性:
- 如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
- 如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。
我们之前的测试都是自动ACK的,如果要手动ACK,需要改动我们的代码:
public class Recv2 {
private final static String QUEUE_NAME = "simple_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接
Connection connection = ConnectionUtil.getConnection();
// 创建通道
final Channel channel = connection.createChannel();
// 声明队列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 定义队列的消费者
DefaultConsumer consumer = new DefaultConsumer(channel) {
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope,
BasicProperties properties,byte[] body) throws IOException {
// body 即消息体
String msg = new String(body);
System.out.println(" received : " + msg + "!");
/**
* 手动进行ACK
* deliveryTag:该消息的index
* multiple:是否批量处理.true:将一次性ack所有消息。
*/
channel.basicAck(envelope.getDeliveryTag(), false);
}
};
// 监听队列,第二个参数false,手动进行ACK
channel.basicConsume(QUEUE_NAME, false, consumer);
}
}
注意到最后一行代码:
channel.basicConsume(QUEUE_NAME, false, consumer);
如果第二个参数为true,则会自动进行ACK;如果为false,则需要手动ACK。
自动ACK存在的问题
生产者正常发送消息,但在消费者接受消息时程序出现宕机,报错等问题后,消息依然会被消费。当程序恢复正常后,那么这条消息就丢失了,找不回来了。
如果设置了手动ACK,在消费者接受消息时程序出现宕机,报错等问题后,消息不会被消费。此时
管理器页面会多一个未确认消息,当程序恢复正常后,消息依然在消息队列中。只有在手动确认后消息才会被消费掉
停掉消费者的程序,发现:
这是因为虽然我们设置了手动ACK,但是代码中并没有进行消息确认!所以消息并未被真正消费掉。当我们关掉这个消费者,消息的状态再次称为Ready
Work-工作模型
工作队列或者竞争消费者模式
工作队列,又称任务队列。主要思想就是避免执行资源密集型任务时,必须等待它执行完成。相反我们稍后完成任务,我们将任务封装为消息并将其发送到队列。 在后台运行的工作进程将获取任务并最终执行作业。当你运行许多消费者时,任务将在他们之间共享,但是一个消息只能被一个消费者获取。
编写生产者
public class Send {
private final static String QUEUE_NAME = "test_work_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明队列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 循环发布任务
for (int i = 0; i < 50; i++) {
// 消息内容
String message = "task .. " + i;
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println(" Sent '" + message + "'");
}
// 关闭通道和连接
channel.close();
connection.close();
}
}
编写消费者1
将消费者1,接受一条消息后睡眠2秒
public class Recv {
private final static String QUEUE_NAME = "test_work_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接
Connection connection = ConnectionUtil.getConnection();
// 创建通道
Channel channel = connection.createChannel();
// 声明队列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 定义队列的消费者
DefaultConsumer consumer = new DefaultConsumer(channel) {
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope,
BasicProperties properties,byte[] body) throws IOException {
// body 即消息体
String msg = new String(body);
System.out.println(" received : " + msg + "!");
//手动确认消息
channel.basicAck(envelope.getDeliveryTag(),false);
//消费者1,睡眠2秒
Thread.sleep(2000);
}
};
// 监听队列,第二个参数:是否自动进行消息确认。
channel.basicConsume(QUEUE_NAME, false, consumer);
}
}
编写消费者2
public class Recv {
private final static String QUEUE_NAME = "test_work_queue";
public static void main(String[] argv) throws Exception {
// 获取到连接
Connection connection = ConnectionUtil.getConnection();
// 创建通道
Channel channel = connection.createChannel();
// 声明队列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 定义队列的消费者
DefaultConsumer consumer = new DefaultConsumer(channel) {
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope,
BasicProperties properties,byte[] body) throws IOException {
// body 即消息体
String msg = new String(body);
System.out.println(" received : " + msg + "!");
//手动确认消息
channel.basicAck(envelope.getDeliveryTag(),false);
}
};
// 监听队列,第二个参数:是否自动进行消息确认。
channel.basicConsume(QUEUE_NAME, false, consumer);
}
}
通过控制台可以发现,两个消费者各自消费了25条消息,而且各不相同,这就实现了任务的分发。
能者多劳
刚才的实现有问题吗?
- 消费者1比消费者2的效率要低,一次任务的耗时较长
- 然而两人最终消费的消息数量是一样的
- 消费者2大量时间处于空闲状态,消费者1一直忙碌
现在的状态属于是把任务平均分配,正确的做法应该是消费越快的人,消费的越多。
怎么实现呢?
我们可以使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工作人员发送多于一条消息。 或者换句话说,不要向工作人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不是仍然忙碌的下一个工作人员。
在消费者1,2中添加以下代码
注:此代码要在监听队列前
channel.basicQos(1);
再次启动程序后发现消费者2的消息远远大于消费者1
这也解决了消息堆积问题
如何避免消息堆积?
1)采用workqueue,多个消费者监听同一队列。
2)接收到消息以后,而是通过线程池,异步消费。
Fanout-广播模型
Fanout,也称为广播。
流程图:
在广播模式下,消息发送流程:
- 1) 可以有多个消费者
- 2) 每个消费者有自己的queue(队列)
- 3) 每个队列都要绑定到Exchange(交换机)
- 4) 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。
- 5) 交换机把消息发送给绑定过的所有队列
- 6) 队列的消费者都能拿到消息。实现一条消息被多个消费者消费
消息生产者
public class Sender {
public static void main(String[] argv) throws Exception {
// 获取到连接以及mq通道
Connection connection = ConnectionUtil.getConnection();
// 轻量级的 Connection,这是完成大部分API的地方。
Channel channel = connection.createChannel();
// 声明(创建)交换机,我们可以把消息发送到交换机中,由交换机把消息发送给生产者
String EXCHANGE_NAME = "fout_exchange";
channel.exchangeDeclare(EXCHANGE_NAME, BuiltinExchangeType.FANOUT);
// 消息内容
String message = "Hello World!";
//发送消息到交换机
channel.basicPublish(EXCHANGE_NAME,"",null,msg.getBytes());
System.out.println(" Sent '" + message + "'");
//关闭通道和连接
channel.close();
connection.close();
}
}
消息消费者
public class Recver {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接mq通道
Connection connection = ConnectionUtil.getConnection();
// 获取轻量级Connection
Channel channel = connection.createChannel();
// 声明交换机
String EXCHANGE_NAME = "fout_exchange";
// 声明队列
String QUEUE_NAME = "fanout_queue_1";
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 绑定交换机
channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"");
// 定义队列消费者
DefaultConsumer defaultConsumer = new DefaultConsumer(channel){
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
try {
String msg = new String(body);
System.out.println("recver"+msg);
// 手动ACK
channel.basicAck(envelope.getDeliveryTag(),false);
}catch (Exception e){
e.printStackTrace();
}
}
};
// 监听队列,自动返回完成
channel.basicConsume(QUEUE_NAME,false,defaultConsumer);
}
}
Direct-定向模型
有选择性的接收消息
在订阅模式中,生产者发布消息,所有消费者都可以获取所有消息。
在路由模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。
但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。
在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)
消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing key完全匹配的队列
C1:消费者,其所在队列指定了需要routing key 为 error 的消息
C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息
消息生产者
public class Sender {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明exchange(交换机)
String EXCHANGE_NAME = "direct_exchange";
// 绑定交换机,指定类型为DIRECT
channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.DIRECT);
// 消息内容
String msg = "世界你好!!!";
//发送消息,并且指定routing key 为:error
channel.basicPublish(EXCHANGE_NAME,"error",null,msg.getBytes());
System.out.println("sender:"+msg);
// 关闭通道和连接
channel.close();
connection.close();
}
}
消息消费者1
public class Recver1 {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明队列
String QUEUE_NAME = "direct_queue_1";
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 声明exchange(交换机)
String EXCHANGE_NAME = "direct_exchange";
// 绑定交换机,指定RoutingKey(路由key)
channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"error");
// 定义队列消费者
DefaultConsumer defaultConsumer = new DefaultConsumer(channel){
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
try {
// 将字节码消息转换为字符串
String msg = new String(body);
System.out.println("recver:"+msg);
// 手动ACK
channel.basicAck(envelope.getDeliveryTag(),false);
}catch (Exception e){
e.printStackTrace();
}
}
};
// 监听队列,手动ACK
channel.basicConsume(QUEUE_NAME,false,defaultConsumer);
}
}
消息消费者2
public class Recver2 {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明队列
String QUEUE_NAME = "direct_queue_2";
channel.queueDeclare(QUEUE_NAME,false,false,false,null);
// 声明exchange(交换机)
String EXCHANGE_NAME = "direct_exchange";
// 绑定exchange(交换机),指定多个RoutingKey(路由key)
channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"info");
channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "insert");
channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update");
channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete");
// 定义队列消费者
DefaultConsumer defaultConsumer = new DefaultConsumer(channel){
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
try {
String msg = new String(body);
System.out.println("recver1:"+msg);
// 手动ACK
channel.basicAck(envelope.getDeliveryTag(),false);
}catch (Exception e){
e.printStackTrace();
}
}
};
// 监听队列,手动ACK
channel.basicConsume(QUEUE_NAME,false, defaultConsumer);
}
}
通过测试查看两个消费者输出结果,消费者1可以接收到消息。而消费者2,由于没有设置相对应的RoutingKey(路由key),所以接收不到消息。
Topic-主题模型
Topic
类型的Exchange
与Direct
相比,都是可以根据RoutingKey
把消息路由到不同的队列。只不过Topic
类型Exchange
可以让队列在绑定Routing key
的时候使用通配符!
Routingkey
一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert
通配符规则:
`#`:匹配一个或多个词
`*`:匹配不多不少恰好1个词
举例:
`audit.#`:能够匹配`audit.irs.corporate` 或者 `audit.irs`
`audit.*`:只能匹配`audit.irs`
在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“..”。
我们创建了三个绑定:Q1绑定了绑定键“*.orange.*”,Q2绑定了“*.*.rabbit”和“lazy.#”
。
Q1匹配所有的橙色动物。
Q2匹配关于兔子以及懒惰动物的消息。
消息生产者
public class Sender {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明exchange(交换机)
String EXCHANGE_NAME = "topic_exchange";
// 指定类型为TOPIC
channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.TOPIC);
// 发送消息
for (int i = 0; i < 50; i++) {
String msg = "世界你好!!!"+i;
channel.basicPublish(EXCHANGE_NAME,"item.add", MessageProperties.PERSISTENT_TEXT_PLAIN,msg.getBytes());
}
// 关闭连接
channel.close();
connection.close();
}
}
消息消费者
public class Recver {
public static void main(String[] args) throws IOException, TimeoutException {
// 获取连接
Connection connection = ConnectionUtil.getConnection();
// 获取通道
Channel channel = connection.createChannel();
// 声明队列
String QEUEU_NAME = "topic_queue_1";
channel.queueDeclare(QEUEU_NAME,true,false,false,null);
// 声明exchange(交换机)
String EXCHANGE_NAME = "topic_exchange";
// 绑定队列到交换机,同时指定需要订阅的routing key
channel.queueBind(QEUEU_NAME,EXCHANGE_NAME,"item.*");
// 定义队列消费者
DefaultConsumer defaultConsumer = new DefaultConsumer(channel){
// 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
try {
String msg = new String(body);
System.out.println("recver:"+msg);
// 手动ACK
channel.basicAck(envelope.getDeliveryTag(),false);
}catch (Exception e){
e.printStackTrace();
}
}
};
// 监听队列,手动ACK
channel.basicConsume(QEUEU_NAME,false, defaultConsumer);
}
}
持久化
问题:如何保证消息成功消费?
1、rabbitmq会宕机?
持久化
2、consumer业务会处理失败?
手动ack
要将消息持久化,前提是:队列、Exchange都持久化
交换机持久化
队列持久化
消息持久化
测试
分别测试持久化和非持久化:
1、Send给Recv发送50条消息
2、Recv收到一条消息sleep1秒钟,收到前几条消息后立即关闭
3、重启RabbitMQ观察消息是否丢失
与Springboot整合
Spring有很多不同的项目,其中就有对AMQP的支持
Spring AMQP的页面:http://spring.io/projects/spring-amqp
官网中有一句话
Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。
依赖与配置
添加AMQP的启动器
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
在application.properties
中添加RabbitMQ地址
#主机
spring.rabbitmq.host=192.168.255.138
#端口
spring.rabbitmq.port=5672
#用户名
spring.rabbitmq.username=admin
#密码
spring.rabbitmq.password=1111
#虚拟分组
spring.rabbitmq.virtual-host=/
#设置三种订阅模式手动ack
spring.rabbitmq.listener.direct.acknowledge-mode=manual
#设置work消息类型手动ack
spring.rabbitmq.listener.simple.acknowledge-mode=manual
封装类
Spring最擅长的事情就是封装,把他人的框架进行封装和整合。
Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:
红框圈起来的是比较常用的3个方法,分别是:
- 指定交换机、RoutingKey和消息体
- 指定消息
- 指定RoutingKey和消息,会向默认的交换机发送消息
消息生成者
@RunWith(SpringRunner.class)
@SpringBootTest(classes = App.class)
public class MqDemo {
// 获取消息处理模板
@Autowired
private AmqpTemplate amqpTemplate;
@Test
public void testSend() throws InterruptedException {
// 声明消息
String msg = "hello, Spring boot amqp";
// 发送消息,指定exchange(交换机),RoutingKey(路由)和消息体
this.amqpTemplate.convertAndSend("springboot_exchange","item.add", msg);
// 等待10秒后再结束
Thread.sleep(10000);
}
}
消息消费者(监听者)
在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者。
@Component
public class Recver {
/**
* 监听者接收消息三要素:
* 1、queue
* 2、exchange
* 3、routing key
*/
@RabbitListener(bindings = {@QueueBinding(
value = @Queue(value = "springboot_queue",durable = "true"),
exchange = @Exchange(value = "springboot_exchange",type = ExchangeTypes.TOPIC),
key = {"*.*"}
)})
public void listen(String msg, Channel channel, Message message){
System.out.println("接收到消息:"+msg);
try {
// 手动ACK
channel.basicAck(message.getMessageProperties().getDeliveryTag(),false);
} catch (IOException e) {
e.printStackTrace();
}
}
}
@Componet
:类上的注解,注册到Spring容器@RabbitListener
:方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:bindings
:指定绑定关系,可以有多个。值是@QueueBinding
的数组。@QueueBinding
包含下面属性:value
:这个消费者关联的队列。值是@Queue
,代表一个队列exchange
:队列所绑定的交换机,值是@Exchange
类型key
:队列和交换机绑定的RoutingKey
类似listen这样的方法在一个类中可以写多个,就代表多个消费者。
可靠消息最终一致性
可靠消息:消息一定会发送出去
最终一致性:最终会处理成功
RabbitMQ可靠消息最终一致性介绍
为什么要使用可靠消息最终一致性
在实际系统的开发过程中,可能服务间的调用是异步的。也就是说,一个服务发送一个消息给 MQ,即消息中间件,比如RocketMQ、RabbitMQ、Kafka、ActiveMQ 等等。
然后,另外一个服务从 MQ 消费到一条消息后进行处理。这就成了基于 MQ 的异步调用了。
那么针对这种基于 MQ 的异步调用,如何保证各个服务间的分布式事务呢?也就是说,我希望的是基于MQ 实现异步调用的多个服务的业务逻辑,要么一起成功,要么一起失败。这个时候,就要用上可靠消息最终一致性方案,来实现分布式事务。
后台新增商品后如何把商品同步到索引库?
分析
方案一:业务逻辑在power_shop_item中实现,添加商品的业务逻辑中,添加一个同步索引库的业务逻辑。
缺点:
1、业务逻辑耦合度高(既维护商品又维护索引库)
方案二:业务逻辑在power_shop_search中实现,power_shop_item先添加商品,再调用power_shop_search服务同步索引库。
缺点:
1、系统间耦合性太强(如果将来其他服务接入,power_shop_item还需要修改代码)
方案三:使用消息中间件
好处:解开业务耦合
解开系统间的耦合
什么是可靠消息最终一致性
可靠消息最终一致性方案是指当事务发起方执行完成本地事务后并发出一条消息,事务参与方(消息消费者)一定能够接收消息并处理事务成功,此方案强调的是只要消息发给事务参与方最终事务要达到一致。
此方案是利用消息中间件完成,如下图:
事务发起方(消息生产方)将消息发给消息中间件,事务参与方从消息中间件接收消息,事务发起方和消息中间件之间,事务参与方(消息消费方)和消息中间件之间都是通过网络通信,由于网络通信的不确定性会导致分布式事务问题。
可靠消息最终一致性要解决的问题:
上游服务把信息成功发送
本地事务与消息发送的原子性问题:事务发起方在本地事务执行成功后消息必须发出去,否则就回滚事务。即实现本地事务和消息发送的原子性,要么都成功,要么都失败。
下游服务成把消息成功消费
事务参与方接收消息的可靠性:事务参与方必须能够从消息队列接收到消息。
对消息做幂等
消息重复消费的问题:由于网络2的存在,若某一个消费节点响应超时但是消费成功,此时消息中间件会重复投递此消息,就导致了消息的重复消费。
解决方案
问题一:上游服务把消息成功发送
本地消息表:该方案最初是eBay提出的,在系统A处理任务完成后,在本地记录待发送信息。一个定时任务不断检查,是否发送成功,如果发送成功,将记录状态修改。如下图:
表格式:
tx_no:消息表id
item_id:消息内容
state:消息状态
代码实现:
定时任务:定时扫描消息表
@Configuration
public class QuartzConfig {
//job:做什么事
@Bean
public MethodInvokingJobDetailFactoryBean
methodInvokingJobDetailFactoryBean(ItemJob itemJob) {
MethodInvokingJobDetailFactoryBean JobDetailFactoryBean =
new MethodInvokingJobDetailFactoryBean();
JobDetailFactoryBean.setTargetObject(itemJob);
JobDetailFactoryBean.setTargetMethod("scanLocalMessage");
return JobDetailFactoryBean;
}
//trigger:什么时候做
@Bean//trigger(job)
public CronTriggerFactoryBean cronTriggerFactoryBean(
MethodInvokingJobDetailFactoryBean JobDetailFactoryBean) {
CronTriggerFactoryBean triggerFactoryBean = new CronTriggerFactoryBean();
triggerFactoryBean.setCronExpression("*/2 * * * * ?");
triggerFactoryBean.setJobDetail(JobDetailFactoryBean.getObject());
return triggerFactoryBean;
}
//scheduled:什么时候做什么事
@Bean
public SchedulerFactoryBean schedulerFactoryBean(
CronTriggerFactoryBean triggerFactoryBean) {
SchedulerFactoryBean schedulerFactoryBean = new SchedulerFactoryBean();
schedulerFactoryBean.setTriggers(triggerFactoryBean.getObject());
return schedulerFactoryBean;
}
}
任务:扫描消息表查看需要发送的消息
@Component
public class ItemJob {
@Autowired
private LocalMessageMapper localMessageMapper;
@Autowired
private ItemMqSender itemMqSender;
public void scanLocalMessage(){
// 扫描local_message表
LocalMessageExample localMessageExample = new LocalMessageExample();
LocalMessageExample.Criteria criteria = localMessageExample.createCriteria();
// 发送状态为0的消息
criteria.andStateEqualTo(0);
List<LocalMessage> localMessages = localMessageMapper.selectByExample(localMessageExample);
// 遍历需要发送消息的集合
for (LocalMessage localMessage : localMessages) {
// 发送消息
itemMqSender.sendMsg(localMessage);
}
}
}
mq发送消息:开启mq消息确认回调,当消息发送成功接收后,修改消息状态
@Component
public class ItemMqSender implements ConfirmCallback {
// 获取消息处理模板
@Autowired
private AmqpTemplate amqpTemplate;
@Autowired
private LocalMessageMapper localMessageMapper;
// 发送消息
public void sendMsg(LocalMessage localMessage) {
// 获取消息处理模板
RabbitTemplate rabbitTemplate = (RabbitTemplate) this.amqpTemplate;
rabbitTemplate.setConfirmCallback(this);
CorrelationData correlationData = new CorrelationData();
correlationData.setId(localMessage.getTxNo());
rabbitTemplate.convertAndSend("item_exchange","item.add", JsonUtils.objectToJson(localMessage),correlationData);
}
//消息回执返回后
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
if (ack){
// 确定消息成功发送后,删除local_message表数据
localMessageMapper.deleteByPrimaryKey(correlationData.getId());
}
}
}
问题二:下游服务成把消息成功消费
消息持久化:可保证消息中间件宕机后消息不丢失
手动ack:保证消息投递失败时消息的重新投递
接受消息:
@Component
public class SearchMqRecver {
@Autowired
private SearchItemService searchService;
// 接受消息
@RabbitListener(bindings = {@QueueBinding(
// durable = "true" 开启队列持久化
value = @Queue(value = "item_queue", durable = "true"),
// 交换机默认持久化
exchange = @Exchange(value = "item_exchange",type = ExchangeTypes.TOPIC),
key ={"item.*"}
)})
public void searchMqRecver(String msg, Channel channel, Message message) {
try {
// 同步es索引库
searchService.addDoc(msg);
// 手动ACK
channel.basicAck(message.getMessageProperties().getDeliveryTag(), false);
} catch (Exception e) {
e.printStackTrace();
}
}
}
问题三:对消息做幂等
消息去重表:任务B处理消息前,先查询该消息是否被消费,如果没消费,处理任务B成功,记录消息。如果消息已经被消费,直接返回应答成功
幂等:
/**
* es同步
* @param msg
*/
@Override
public void addDoc(String msg) throws IOException {
// 将消息字符串转换为对象
LocalMessage localMessage = JsonUtils.jsonToPojo(msg, LocalMessage.class);
// 查询去重表是否有处理此消息的记录
MsgDistinct msgDistinct = msgDistinctMapper.selectByPrimaryKey(localMessage.getTxNo());
if(msgDistinct == null) {
// es同步
SearchItem searchItem = itemCategoryFeign.getSearchItem(localMessage.getItemId());
IndexRequest indexRequest = new IndexRequest(ES_INDEX_NAME, ES_TYPE_NAME);
indexRequest.source(JsonUtils.objectToJson(searchItem), XContentType.JSON);
restHighLevelClient.index(indexRequest);
// 新建去重表数据
msgDistinct = new MsgDistinct();
msgDistinct.setTxNo(localMessage.getTxNo());
msgDistinct.setCreateTime(new Date());
msgDistinctMapper.insert(msgDistinct);
}else {
// 如果去重表不为空则表示,消息已经处理过
System.out.println("------------下游服务对消息:"+localMessage.getTxNo()+",的幂等已然生效-------------");
}
}
表格式:
tx_no:表id
create_time:已处理的消息