服务性能:ActiveMQ的性能不是特别好,面对超大规模并发时候,总是会出现各种各样的小问题,比如阻塞,消息堆积过多,产生一些延迟等等一些问题。
数据存储:ActiveMQ默认采用KahaDB内存存储方式。也可以采用一些高性能的存储方式,比如:google的LevelDb 基于内存的。如果是为了保证消息的可靠,也可以采用mysql或者oracle数据库。
集群架构:ActiveMQ流行那么多年,与其他组件集成的Api也是十分完善的。如果不是特别大的并发场景下,ActiveMQ也是一个不错的选择。因为ActiveMQ的集群架构模式也是十分好。
ActiveMQ优点:
跨平台(JAVA编写与平台无关,ActiveMQ几乎可以运行在任何的JVM上)
可以用JDBC:可以将数据持久化到数据库。虽然使用JDBC会降低ActiveMQ的性能,但是数据库一直都是开发人员最熟悉的存储介质
支持JMS规范:支持JMS规范提供的统一接口 支持自动重连和错误重试机制
有安全机制:支持基于shiro,jaas等多种安全配置机制,可以对Queue/Topic进行认证和授权
监控完善:拥有完善的监控,包括WebConsole,JMX,Shell命令行,Jolokia的RESTful API
界面友善:提供的WebConsole可以满足大部分情况,还有很多第三方的组件可以使用,比如hawtio
ActiveMQ缺点:
社区活跃度不及RabbitMQ高 根据其他用户反馈,会出莫名其妙的问题,会丢失消息
目前重心放到activemq6.0产品Apollo,对5.x的维护较少 不适合用于上千个队列的应用场景
快速持久化:可以在O(1)的系统开销下进行消息持久化;
高吞吐:在一台普通的服务器上既可以达到10W/s的吞吐速率;
完全的分布式系统:Broker、Producer和Consumer都原生自动支持分布式,自动实现负载均衡;
支持同步和异步复制两种高可用机制;
支持数据批量发送和拉取;
零拷贝技术(zero-copy):减少IO操作步骤,提高系统吞吐量;
数据迁移、扩容对用户透明;
无需停机即可扩展机器;
其他特性:丰富的消息拉取模型、高效订阅者水平扩展、实时的消息订阅、亿级的消息堆积能力、定期删除机制
2.3 kafka小结
kafka优点:
客户端语言丰富:支持Java、.Net、PHP、Ruby、Python、Go等多种语言;
高性能:单机写入TPS约在100万条/秒,消息大小10个字节;
提供完全分布式架构,并有replica机制,拥有较高的可用性和可靠性,理论上支持消息无限堆积;
支持批量操作;
消费者采用Pull方式获取消息。消息有序,通过控制能够保证所有消息被消费且仅被消费一次;
有优秀的第三方KafkaWeb管理界面Kafka-Manager;
在日志领域比较成熟,被多家公司和多个开源项目使用。
kafka缺点:
Kafka单机超过64个队列/分区时,Load时会发生明显的飙高现象。队列越多,负载越高,发送消息响应时间变长;
使用短轮询方式,实时性取决于轮询间隔时间;
消费失败不支持重试;
支持消息顺序,但是一台代理宕机后,就会产生消息乱序;
社区更新较慢。
RocketMQ是阿里开源的消息中间件,目前也已经孵化为Apache顶级项目。用Java语言实现,在设计时参考了Kafka,并做出了自己的一些改进,消息可靠性上比Kafka更好。RocketMQ在阿里内部被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发等场景。
3.1 RocketMQ特点:
保证消息的顺序性,消息按顺序消费。
提供了丰富的拉取和处理模式。
高效的订阅者,也可以进行水平扩展。
承载上亿级别的消息堆积能力。
3.2 RocketMQ集群架构模式
Master-Slave(主从)模式
双Master模式。
双主双从模式。
多主多从模式。
一主多从模式。
RocketMQ集群拓扑
阿里觉得Zookeeper性能太低,自己搭建了NameServer,这个NameServer代码也十分精简,一共也就几百行代码。有兴趣可以去读源码。
3.3 RocketMQ小结
RocketMQ优点:
单机支持1万以上持久化队列;
RocketMQ的所有消息都是持久化的,先写入系统PAGECACHE,然后刷盘,可以保证内存与磁盘都有一份数据,而访问时,直接从内存读取。
模型简单,接口易用(JMS的接口很多场合并不太实用);
性能非常好,可以允许大量堆积消息在Broker中;
支持多种消费模式,包括集群消费、广播消费等;
各个环节分布式扩展设计,支持主从和高可用;
开发度较活跃,版本更新很快。
RocketMQ缺点:
支持的 客户端语言不多,目前是Java及C++,其中C++还不成熟
维护RocketMQ需要专业的团队
商业版收费,有许多功能是不对外提供的。
没有在MQ核心里实现JMS等接口
-
为什么选择RabbitMQ?
ActiveMQ,性能不是很好,因此在高并发的场景下,直接被pass掉了。它的Api很完善,在中小型互联网公司可以去使用。
kafka,主要强调高性能,如果对业务需要可靠性消息的投递的时候。那么就不能够选择kafka了。但是如果做一些日志收集呢,kafka还是很好的。因为kafka的性能是十分好的。
RocketMQ,它的特点非常好。它高性能、满足可靠性、分布式事物、支持水平扩展、上亿级别的消息堆积、主从之间的切换等等。MQ的所有优点它基本都满足。但是它最大的缺点:商业版收费。因此它有许多功能是不对外提供的。
那么说完这三种MQ还有没有其他MQ能够选择呢?有的,也是这次学习的MQ——RabbitMQ。 -
主流消息中间件介绍——RabbitMQ
RabbitMQ于2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。
开源、性能优秀、稳定性保障
提供可靠性消息投递模式(confirm)、返回模式(return)
与SpringAMQP完美的整合、扩展性变得更强、API丰富
集群模式丰富、表达式配置、HA(高可用)模式、镜像队列模型
保证数据不丢失的前提下做到高可靠性、可用性
RabbitMq:
核心概念
Message 消息,消息是不具名的,它由消息头和消息体组成。消息体是不透明的,而消息头则由一系列的可选属性组成, 这些属性包括routing-key(路由键)、priority(相对于其他消息的优先权)、delivery-mode(指出该消息可 能需要持久性存储)等。
Publisher 消息的生产者,也是一个向交换器发布消息的客户端应用程序。
Exchange 交换器,用来接收生产者发送的消息并将这些消息路由给服务器中的队列。 Exchange有4种类型:direct(默认),fanout, topic, 和headers,不同类型的Exchange转发消息的策略有所区别
Queue 消息队列,用来保存消息直到发送给消费者。它是消息的容器,也是消息的终点。一个消息可投入一个或多个队列。消息一直 在队列里面,等待消费者连接到这个队列将其取走。
Binding 绑定,用于消息队列和交换器之间的关联。一个绑定就是基于路由键将交换器和消息队列连接起来的路由规则,所以可以将交 换器理解成一个由绑定构成的路由表。
Exchange 和Queue的绑定可以是多对多的关系。
Connection 网络连接,比如一个TCP连接。 Channel 信道,多路复用连接中的一条独立的双向数据流通道。信道是建立在真实的TCP连接内的虚拟连接,AMQP 命令都是通过信道 发出去的,不管是发布消息、订阅队列还是接收消息,这些动作都是通过信道完成。因为对于操作系统来说建立和销毁 TCP 都 是非常昂贵的开销,所以引入了信道的概念,以复用一条 TCP 连接。
Consumer 消息的消费者,表示一个从消息队列中取得消息的客户端应用程序。
Virtual Host 虚拟主机,表示一批交换器、消息队列和相关对象。虚拟主机是共享相同的身份认证和加 密环境的独立服务器域。每个 vhost 本质上就是一个 mini 版的 RabbitMQ 服务器,拥 有自己的队列、交换器、绑定和权限机制。vhost 是 AMQP 概念的基础,必须在连接时 指定,RabbitMQ 默认的 vhost 是 / 。 Broker 表示消息队列服务器实体