课程目标
RabbitMQ简介
RabbitMQ安装及使用
RabbitMQ快速入门
RabbitMQ简介
初识RabbitMQ
RabbitMQ是—个开源的消息代理和队列服务器,用来通过普通协议 在完全不同的应用之间共享数据,RabbitMQ是使用Erlang语言来编写 的,并且RabbitMQ是基于AMQP协议的。
哪些大厂在用RabbitMQ,为什么?
滴滴、美团、头条、去哪儿、艺龙…
①:开源、性能优秀,稳定性保障
②:提供可靠性消息投递模式(confirm)、返回模式(return )与SpringAMQP完美的整合、API丰富。
③:集群模式丰富,表达式配置,HA模式,镜像队列模型,保证数据不丟失的前提做到高可靠性、可用性。
RabbitMQ高性能的原因?
Erlang语言最初在于交换机领域的架构模式,这样使得 RabbitMQ在Broker之间进行数据交互的性能是非常优秀的
Erlang的优点: Erlang有着和原生Socket—样的延迟
为什么使用RabbitMQ
当每学到某个技术点是,一到为什么使用的疑问的时候,无非就是讲解他的优点,有什么好处?
场景: 某个商城系统网站,用户下单创建订单成功后,需要进行邮件发送,短信发送,库存扣减等一系列服务操作
我们的流程处理是怎样的呢?
传统处理
我们来讲解下以前的传统处理,用户下单创建订单后,由订单服务系统分别调用邮件发送服务,短信发送服务,库存扣减服务等,当请求到达订单系统中了,我们订单系统首先调用其中一个服务进行处理,等待这个服务处理完毕返回后,开始进行另一个服务处理,依此类推.如果一个服务耗时50ms,需要等待处理完毕后才能调用另一个服务,加入有n个服务需要我们去处理,那么这个功能的耗时就是n*50ms,我们把这个过程叫做同步返回处理.
由上图看出,处理这个功能业务时,是同步的,我们耗时也是比较久的,而且多个服务直接都有依赖耦合订单服务系统的,我们开发系统讲究高内聚,低耦合,这很显然不符合,那么我们该怎么优化为异步低耦合的呢?
线程池处理
针对上面的问题,我们看到有同步处理耗时长的问题,然而我们有学过多线程的处理,所以我们可采用线程池的方式
我们在订单服务中加一个线程池这样的一个操作,有线程池产生多个线程去分别调用其他服务,之前一个服务50ms,现在不考虑其他因素,用多线程去处理,就相当于只用了一个服务的调用时间去处理了多个服务的调用,从而我们实现了同步变异步来解决耗时长的问题
问题来了,虽然我们解决了同步变异步的问题,但是我们在订单系统中又多了一个线程池的操作,而且多个服务之间依然是依赖耦合订单服务的,并且用线程池处理的方法应用的比较少,那么我们该如何继续优化呢?
RabbitMQ处理
针对上面的两个处理方式依然不是很理想的,这时候我们使用RabbitMQ来优化这个功能,我们在订单服务处理中加一个消息队列,那么流程就是:用户下单创建订单后,将请求发送到这个消息队列中,我们就无需关注订单服务和其他服务之间的处理,发送消息队列后不管了,直接返回订单信息给用户,由消息队列分发给各个服务进行通讯处理
解耦
我们从上述图中看出,加一个消息队列的功能时,实现了服务调用的异步实现,既解决了各个服务之间和订单服务依赖耦合的关系,使订单服务单独出来处理,可以把消息队列和各个服务的处理看做一个独立的模块,这样我们解决了最开始的业务场景问题。
流量削峰
什么是流量削峰
①主要是还是来自于互联网的业务场景,例如,马上即将开始的春节火车票抢购,大量的用户需要同一时间去抢购;
②以及大家熟知的阿里双11秒杀,短时间上亿的用户涌入,瞬间流量巨大(高并发),比如:200万人准备在凌晨12:00准备抢购一件商品,但是商品的数量缺是有限的100-500件左右。
③这样真实能购买到该件商品的用户也只有几百人左右, 但是从业务上来说,秒杀活动是希望更多的人来参与,也就是抢购之前希望有越来越多的人来看购买商品。
④但是,在抢购时间达到后,用户开始真正下单时,秒杀的服务器后端缺不希望同时有几百万人同时发起抢购请求。
⑤我们都知道服务器的处理资源是有限的,所以出现峰值的时候,很容易导致服务器宕机,用户无法访问的情况出现。
⑥这就好比出行的时候存在早高峰和晚高峰的问题,为了解决这个问题,出行就有了错峰限行的解决方案。
解决方案
我们一个案例讲解
场景: 商城系统新建了一个秒杀活动,在限定时间内进行低价秒杀,可能会出现成千上万的用户前来请求秒杀处理,但是我们的秒杀商品限定了几十或者几百的库存
那么我们如何面对高并发的流量请求来限制流量进行秒杀业务来减少服务器的压力呢?
这时候我们的RabbitMQ的魅力就来啦,我们在系统服务中加入消息队列, 把用户所有的请求发送到消息队列中,不直接去交给秒杀的业务处理,虽然有多量的请求,但是我们可以设置消息队列的阈值,当用户请求的数量达到库存的数量时,我们消息队列就可以对其他的请求不进行秒杀下单处理了,可以将其他请求进行秒杀失败的一个业务处理,只负责秒杀成功的请求,然后等待系统的下单处理就行了,从而达到了对高并发流量的限制,保证库存的正确处理,减少服务器的压力
在这里,消息队列就像“水库”一样,拦蓄上游的洪水,削减进入下游河道的洪峰流量,从而达到减免洪水灾害的目的
同理,在线上的秒杀等业务场景,也需要类似的解决方案,需要平安度过同时抢购带来的流量峰值的问题,这就是流量削峰的由来。
RabbitMQ其他主流中间件的对比
ActiveMQ: 是 Apache 出品,最流行的,能力强劲的开源消息总线,并且它一
个完全支持 J M S 规范的消息中间件。
其丰富的 API 、多种集群构建模式使得他成为业界老牌消息中间件,在中
小型企业中应用广泛!
MQ 衡量指标:服务性能、数据存储、集群架构
Kafka
RocketMQ: 是阿里开源的消息中间件,目前也已经孵化为Apache顶级项目,
它是纯java开发,具有高吞吐量、高可用性、适合大规模分布式系统 应用的特点。
RocketMQ思路起源于Kafka,它对消息的可靠传输及事务 性做了优化,
目前在阿里集团被广泛应用于交易、充值、流计算、消息推 送、日志流式处理、binglog分发等场景
RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议 来实现。
AMQP的主要特征是面向消息、队列、路由(包括点对点和发布 /订阅)、可靠性、安全。AMQP协议更多用在企业系统内,
对数据_致 性、稳定性和可靠性要求很髙的场景,对性能和吞吐量的要求还在其次。
结论:
activiMq: 老牌消息中间件,api全面,但是吞吐量不大
Kafaka: 吞吐量大,但是数据无法保证不丢失,主要面向大数据
rokectMQ: 吞吐量大,保证数据不丢失,并且支持分布式事物,但是商业版需要收费
RabbitMQ: 吞吐量大,数据不易丢失
什么是AMQP高级消息队列协议?
AMQP定义:
是具有现代特征的二进制协议;
是一个提供统一消息服务的应用层标准高级消息队列协议;
是应用层协议的一个开放标准,为面向消息的中间件设计;
AMQP核心概念(重点)
Server:又称Broker,接受客户端的连接,实现AMQP实体服务
Connection:连接:应用程序与Broker的网络连接
Channel:网络通道,几乎所有的操作都在Channel中进行,Channel是进行消息读写的通道;客户端可建立多个Channel,每个Channel代表一个会话任务;
Message:消息,服务器与应用程序之间传递的数据,由Properties和Body组成。Properties可以对消息进行装饰,比如消息的优先级、延迟等高级特性;Body则就是消息体内容;
Virtual host:虚拟地址,用于进行逻辑隔离,最上层的消息路由;一个Virtual Host里面可以有若干个Exchange和Queue,同一个Virtual Host里面不能有相同名称的Exchange或Queue;
Exchange:交换机,交换消息,根据路由键转发消息到绑定的队列;
Binding:Exchange和Queue之间的虚拟连接,binding中可以包含routing key;
Routing key:一个路由规则,虚拟机可用它来确定如何路由一个特定消息
Queue:也称为Message Queue,消息队列,保存消息并将它们转发给消费者
RabbitMQ安装及使用
Centos安装方式
【注意】:Erlang语言与RabbitMQ安装版本必须匹配
官网地址:https://www.rabbitmq.com/
提前准备:安装Linux必要依赖包
下载RabbitMQ必须安装包
配置文件修改
服务的启动:rabbitmq-server start &
服务的停止:rabbitmqctl stop_app
管理插件: rabbitmq-plugins enable rabbitmq_management
访问地址:http://ip:15672/
详细步骤
准备:
yum install \
build-essential openssl openssl-devel unixODBC unixODBC-devel \
make gcc gcc-c++ kernel-devel m4 ncurses-devel tk tc xz -y
下载:
wget www.rabbitmq.com/releases/erlang/erlang-18.3-1.el7.centos.x86_64.rpm
wget http://repo.iotti.biz/CentOS/7/x86_64/socat-1.7.3.2-5.el7.lux.x86_64.rpm
wget www.rabbitmq.com/releases/rabbitmq-server/v3.6.5/rabbitmq-server-3.6.5-1.noarch.rpm
安装
rpm -ivh erlang-18.3-1.el7.centos.x86_64.rpm
rpm -ivh socat-1.7.3.2-1.1.el7.x86_64.rpm --nodeps --force
rpm -ivh rabbitmq-server-3.6.5-1.noarch.rpm
配置文件
vi /usr/lib/rabbitmq/lib/rabbitmq_server-3.6.5/ebin/rabbit.app
比如修改密码、配置等等,例如:loopback_users 中的 <<“guest”>>,只保留guest
服务启动和停止:
启动 rabbitmq-server start &
停止 rabbitmqctl app_stop
查看服务是否成功:
yum install lsof
lsof -i:5672
管理插件:rabbitmq-plugins enable rabbitmq_management
访问地址:http://192.168.125.128:15672/
Docker安装方式(推荐这个比较简单)
注意获取镜像的时候要获取management版本的,不要获取last版本的,management版本的才带有管理界面
1.查询镜像
docker search rabbitmq:management
2.获取镜像
docker pull rabbitmq:management
3.运行镜像
方式一:默认guest用户,密码也是guest
docker run -d -p 5672:5672 -p 15672:15672 --name rabbitmq rabbitmq:management
常用操作命令
命令行与管控台-基础操作
rabbitmqctl stop_app:关闭应用
rabbitmqctl start_app:启动应用
rabbitmqctl status:节点状态
rabbitmqctl add_user username password:添加用户
rabbitmqctl list_users:列出所有用户
rabbitmqctl delete_user username:删除用户
rabbitmqctl clear_permissions -p vhostpath username:清除用户权限
rabbitmqctl list_user_permissions username:列出用户权限
rabbitmqctl change_password username newpassword:修改密码
rabbitmqctl set_permissions -p vhostpath username “.” “.” “.*”
rabbitmqctl add_vhost vhostpath:创建虚拟主机
rabbitmqctl list_vhosts:列出所有虚拟主机
rabbitmqctl list_permissions -p vhostpath:列出虚拟主机上所有权限
rabbitmqctl delete_vhost vhostpath:删除虚拟主机
rabbitmqctl list_queues:查看所有队列信息
rabbitmqctl -p vhostpath purge_queue blue:清除队列里的消息
命令行与管控台-高级操作
rabbitmqctl reset:移除所有数据,要在rabbitmqctl stop_app之后使用
rabbitmqctl join_cluster [–ram]:组成集群命令
rabbitmqctl cluster_status:查看集群状态
rabbitmqctl change_cluster_node_type disc | ram:修改集群节点的存储形式
rabbitmqctl forget_cluster_node {–offline} 忘记节点 (摘除节点)
rabbitmqctl rename_cluster_node oldnode1 newnode1 [oldnode2] [newnode2…] (修改节点名称)
RabbitMQ快速入门
极速入门-消息生产与消费
ConnectionFactory:获取连接工厂
Connection:一个链接
Channel:数据通信通道,课发送和接收消息
Queue:具体的消息存储队列
Producer & Consumer:生产和消费者
创建一个springboot项目
导入pom依赖
<dependency>
<groupId>com.rabbitmq</groupId>
<artifactId>amqp-client</artifactId>
<version>3.6.5</version>
</dependency>
消费端代码
package com.cgl.rabbitmqapi.quickstart;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
/**
* @author caoguangli
* @company
* @create 2019-12-20 19:26
*/
public class Consumer {
public static void main(String[] args) throws Exception {
//1 创建一个ConnectionFactory, 并进行配置
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost("192.168.125.128");
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost("/");
//2 通过连接工厂创建连接
Connection connection = connectionFactory.newConnection();
//3 通过connection创建一个Channel
Channel channel = connection.createChannel();
//4 声明(创建)一个队列
String queueName = "test001";
// 参数:队列名称、持久化与否、独占与否、无消息队列是否自动删除、消息参数
// queueDeclare(String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments)
channel.queueDeclare(queueName, true, false, false, null);
//5 创建消费者
QueueingConsumer queueingConsumer = new QueueingConsumer(channel);
//6 设置Channel
// 参数:队列名称、自动签收、消费者回调
// basicConsume(String queue, boolean autoAck, Consumer callback)
channel.basicConsume(queueName, true, queueingConsumer);
while(true){
//7 获取消息(Delivery:传送)
QueueingConsumer.Delivery delivery = queueingConsumer.nextDelivery();
String msg = new String(delivery.getBody());
System.err.println("消费端: " + msg);
//Envelope envelope = delivery.getEnvelope();
}
}
}
生产端
package com.cgl.rabbitmqapi.quickstart;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
/**
* @author caoguangli
* @company
* @create 2019-12-20 19:27
*/
public class Procuder {
public static void main(String[] args) throws Exception {
//1 创建一个ConnectionFactory, 并进行配置
ConnectionFactory connectionFactory = new ConnectionFactory();
connectionFactory.setHost("192.168.125.128");
connectionFactory.setPort(5672);
connectionFactory.setVirtualHost("/");
//2 通过连接工厂创建连接
Connection connection = connectionFactory.newConnection();
//3 通过connection创建一个Channel
Channel channel = connection.createChannel();
//4 通过Channel发送数据
for(int i=0; i < 5; i++){
String msg = "Hello RabbitMQ!";
//1 exchange 2 routingKey
channel.basicPublish("", "test001", null, msg.getBytes());
}
//5 记得要关闭相关的连接
channel.close();
connection.close();
}
}