Kafka、RocketMQ、RabbitMQ的优劣势比较

高并发架构系列:Kafka、RocketMQ、RabbitMQ的优劣势比较 ... 在高并发业务场景下,典型的阿里双11秒杀等业务,消息队列中间件在流量削峰、解耦上有不可替代的作用。 我之前介绍了【MQ消息队列的12点核心原理总结】,【如何从0到1设计一个MQ消息队列】,以及【RPC远程调用和消息队列MQ的区别】。 今天我们一起来探讨: 全量的消息队列究竟有哪些? Kafka、RocketMQ、RabbitMQ的优劣势比较,以及消息队列... 阅读详情

最全MQ消息队列有哪些?

目前在业界有哪些比较知名的消息引擎呢?如下图所示

这里面几乎完全列举了当下比较知名的消息引擎,包括:

 ZeroMQ

 推特的Distributedlog

 ActiveMQ:Apache旗下的老牌消息引擎

 RabbitMQ、Kafka:AMQP的默认实现。

 RocketMQ

 Artemis:Apache的ActiveMQ下的子项目

 Apollo:同样为Apache的ActiveMQ的子项目的号称下一代消息引擎

 商业化的消息引擎IronMQ

 以及实现了JMS(Java Message Service)标准的OpenMQ。

 

MQ消息队列的技术应用

1.解耦

解耦是消息队列要解决的最本质问题。

2.最终一致性

最终一致性指的是两个系统的状态保持一致,要么都成功,要么都失败。

最终一致性不是消息队列的必备特性,但确实可以依靠消息队列来做最终一致性的事情。

2.广播

消息队列的基本功能之一是进行广播。

有了消息队列,我们只需要关心消息是否送达了队列,至于谁希望订阅,是下游的事情,无疑极大地减少了开发和联调的工作量。

3.错峰与流控

典型的使用场景就是秒杀业务用于流量削峰场景。

Kafka、RocketMQ、RabbitMQ比较

 

1.ActiveMQ

优点

 单机吞吐量:万级

 topic数量都吞吐量的影响:

 时效性:ms级

 可用性:高,基于主从架构实现高可用性

 消息可靠性:有较低的概率丢失数据

 功能支持:MQ领域的功能极其完备

缺点:

官方社区现在对ActiveMQ 5.x维护越来越少,较少在大规模吞吐的场景中使用。

 

2.Kafka

号称大数据的杀手锏,谈到大数据领域内的消息传输,则绕不开Kafka,这款为大数据而生的消息中间件,以其百万级TPS的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集、传输、存储的过程中发挥着举足轻重的作用。

Apache Kafka它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log),之后成为Apache项目的一部分。

目前已经被LinkedIn,Uber, Twitter, Netflix等大公司所采纳。

优点

 性能卓越,单机写入TPS约在百万条/秒,最大的优点,就是吞吐量高。

 时效性:ms级

 可用性:非常高,kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用

 消费者采用Pull方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次;

 有优秀的第三方Kafka Web管理界面Kafka-Manager;

 在日志领域比较成熟,被多家公司和多个开源项目使用;

 功能支持:功能较为简单,主要支持简单的MQ功能,在大数据领域的实时计算以及日志采集被大规模使用

缺点:

 Kafka单机超过64个队列/分区,Load会发生明显的飙高现象,队列越多,load越高,发送消息响应时间变长

 使用短轮询方式,实时性取决于轮询间隔时间;

 消费失败不支持重试;

 支持消息顺序,但是一台代理宕机后,就会产生消息乱序;

 社区更新较慢;

 

3.RabbitMQ

RabbitMQ 2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。

RabbitMQ优点:

 由于erlang语言的特性,mq 性能较好,高并发;

 吞吐量到万级,MQ功能比较完备  

 健壮、稳定、易用、跨平台、支持多种语言、文档齐全;

 开源提供的管理界面非常棒,用起来很好用  

 社区活跃度高;

RabbitMQ缺点:

 erlang开发,很难去看懂源码,基本职能依赖于开源社区的快速维护和修复bug,不利于做二次开发和维护。

 RabbitMQ确实吞吐量会低一些,这是因为他做的实现机制比较重。  

 需要学习比较复杂的接口和协议,学习和维护成本较高。

4.RocketMQ

RocketMQ出自 阿里公司的开源产品,用 Java 语言实现,在设计时参考了 Kafka,并做出了自己的一些改进。

RocketMQ在阿里集团被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发等场景。

 

RocketMQ优点:

 单机吞吐量:十万级

 可用性:非常高,分布式架构

 消息可靠性:经过参数优化配置,消息可以做到0丢失

 功能支持:MQ功能较为完善,还是分布式的,扩展性好

 支持10亿级别的消息堆积,不会因为堆积导致性能下降

 源码是java,我们可以自己阅读源码,定制自己公司的MQ,可以掌控 

RocketMQ缺点:

 支持的客户端语言不多,目前是java及c++,其中c++不成熟;

 社区活跃度一般

 没有在 mq 核心中去实现JMS等接口,有些系统要迁移需要修改大量代码 

 

消息队列选择建议

1.Kafka

Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输,适合产生大量数据的互联网服务的数据收集业务。

大型公司建议可以选用,如果有日志采集功能,肯定是首选kafka了。

 

2.RocketMQ

天生为金融互联网领域而生,对于可靠性要求很高的场景,尤其是电商里面的订单扣款,以及业务削峰,在大量交易涌入时,后端可能无法及时处理的情况。

RoketMQ在稳定性上可能更值得信赖,这些业务场景在阿里双11已经经历了多次考验,如果你的业务有上述并发场景,建议可以选择RocketMQ。

3.RabbitMQ

RabbitMQ :结合erlang语言本身的并发优势,性能较好,社区活跃度也比较高,但是不利于做二次开发和维护。不过,RabbitMQ的社区十分活跃,可以解决开发过程中遇到的bug。

如果你的数据量没有那么大,小公司优先选择功能比较完备的RabbitMQ。

RocketMq单点与各种集群的优缺点对比 2.1.单个Master 这种方式风险较大,一旦Broker 重启或者宕机时,会导致整个服务不可用,不建议线上环境使用。 2.2.多Master 模式 一个集群无Slave,全是Master,例如2 个Master 或者3 个Master 优点:配置简单,单个Master 宕机或重启维护对应用无影响,在磁盘配置为RAID10 时,... 阅读详情

相关推荐

Kafka、rabbitmq、zeromq、rocketmq、activemq综合对比(一)

http://kadima.asia/blogs/articles/203一、资料文档Kafka:中。有kafka作者自己写的书,网上资料也有一些。rabbitmq:多。有一些不错的书,网上资料多。zeromq:少。没有专门写zeromq的书,网上的资料多是一些代码的实现和简单介绍。rocketmq:少。没有专门写rocketmq的书,网上的资料良莠不齐,官方文档很简洁,但是对技术细节没有过多的描...

lin451791119的博客 1422

RabbitMQ和Kafka比较

1、Kafka可以保证顺序处理消息,RabbitMQ相对较弱。 2、在消息路由和过滤方面,RabbitMQ提供了更好的支持。 3、RabbitMQ有消息存活时间(TTL)和延迟/预定消息功能,Kafka没有。 4、在消息留存方面,RabbitMQ消息一旦消费成功就会删除,反之处理失败则放回,但Kafka会保留消息,根据超时时间来删除消息,所以Kafka可以反复消费消息。 5、在容错处理上,RabbitMQ提供了诸如交付重试和死信交换器(DLX)来处理消息处理故障,相反,Kafka没有提供这种开箱即用的机制,

qq_36299933的博客 6993

消息队列Kafka、RocketMQ、RabbitMQ的优劣势比较

在高并发业务场景下,典型的阿里双11秒杀等业务,消息队列中间件在流量削峰、解耦上有不可替代的作用。 Mike前面分享了MQ消息队列的设计、核心原理、以及与RPC远程调用的区别等内容。今天我们一起来探讨: 全量的消息队列究竟有哪些? Kafka、RocketMQ、RabbitMQ的优劣势比较; 以及消息队列的选型; 一、最全MQ消息队列有哪些 那么目前在业界有哪些比较知名的消息引擎呢?如下图所示: 这里面几乎完全列举了当下比较知名的消息引擎,包括: ZeroMQ 推特的Dist..

qq_593186283的博客 914

异步通信的利器:RocketMQ和Kafka的优劣分析与应用场景

本文探讨了消息队列在分布式系统中实现异步通信的技术原理和应用场景。消息队列是一种数据结构,它可以存储和转发一系列的消息,从而解耦生产者和消费者,提高系统的可扩展性和容错性。本文以RocketMQ和Kafka为例,比较了两种消息队列产品在功能、性能和适用场景上的异同,并给出了选择消息队列时需要考虑的因素。本文旨在为分布式系统设计者提供一个参考框架,帮助他们选择合适的消息队列技术。

wangli的博客 2547

即梦 AI 全功能零基础详细教程(纯技术版)

即梦 AI 是一款多模态 AI 生成工具,主打文本生成视频、图片生成视频、角色一致性生成、音画同步等核心功能,依托自研 AI 视觉模型,实现从文本 / 图片 / 音频素材输入,到高清视频、图像内容输出的全流程 AI 创作,支持短视频、短剧、创意素材等多场景创作,具备操作门槛低、生成效率高、画面可控性强的技术特点。@为工具内置引用指令,作用是锁定指定素材 / 角色,强制 AI 按照该素材的核心特征生成内容,无额外付费、解锁要求,免费使用。剧本拆分:将短剧拆分为单镜头(15 秒内 / 个)

2501_92061023的博客 5869

HFSS螺旋线圈的优化设计与高效仿真实践

本文详细介绍了HFSS螺旋线圈的优化设计与高效仿真实践,涵盖核心参数设置、参数化建模、仿真加速技巧及结果分析。通过HFSS软件实现螺旋线圈的高效仿真,特别适用于无线充电和RFID系统设计,提升设计效率与性能验证准确性。

weixin_30235225的博客 446

高并发架构系列:Kafka、RocketMQ、RabbitMQ的优劣势比较

在高并发业务场景下,典型的阿里双11秒杀等业务,消息队列中间件在流量削峰、解耦上有不可替代的作用。 之前介绍了【MQ消息队列的12点核心原理总结】、【如何从0到1设计一个MQ消息队列】、【RPC远程调用和消息队列MQ的区别】,感兴趣可以查看我的往期文章。 今天我们一起来探讨: 全量的消息队列究竟有哪些? Kafka、RocketMQ、RabbitMQ的优劣势比较,以及消息队列的选型。 最全MQ消息...

mikechen的互联网架构 5315

从踩坑到填平:我在RHEL7上给Tesla A100装驱动的完整记录(含Fabric Manager配置)

本文详细记录了在RHEL7系统上为Tesla A100安装Nvidia驱动的完整过程,包括Fabric Manager配置的关键步骤。通过分析A100架构的特殊性,提供了从驱动安装到服务配置的详细指南,并分享了常见问题的排查方法和性能调优技巧,帮助用户高效部署高性能GPU计算环境。

weixin_29291863的博客 285

常见消息队列ActiveMQ、RabbitMQ、RocketMQ、Kafka优劣势比较

常见消息队列ActiveMQ、RabbitMQ、RocketMQ、Kafka优劣势比较 在高并发业务场景下,典型的天猫双11购物节等业务场景,消息队列中间件在流量削峰、解耦上有不可替代的作用。本文简单介绍一下常见的消息队列如ActiveMQ、RabbitMQ、RocketMQ、Kafka等优劣比较。 常见的消息队列 这里几乎列举了当下各种主流的MQ中间件: ZeroMQ 推特的Distri...

XUDC的程序人生 4928

出现 RuntimeError: adaptive_avg_pool2d_backward_cuda does not have a deterministic implementation的解决方法

大致就是在执行主函数的训练函数中,在反向传播这一块出现了问题。解决方法就是添加如下代码块。找到提示bug的行数。

码农研究僧的博客 5534

使用 MATLAB/Simulink + Simscape Electrical + Simulink Design Optimization,构建一个沙漠环境中光伏组件灰尘积累与效率下降仿真模型

本文通过,构建了沙漠环境中光伏组件灰尘积累与效率下降仿真模型✅ 建立了风速-沙尘-积尘速率的物理关系✅ 仿真了灰尘积累过程及其对Isc 和 Pmax的影响✅ 量化分析了不同清洁策略的经济性✅ 提出了优化设计与智能运维建议。

xiaoheshang_123的博客 124

5 . 高并发架构系列:Kafka、RocketMQ、RabbitMQ的优劣势比较

今天我们一起来探讨: 全量的消息队列究竟有哪些? Kafka、RocketMQ、RabbitMQ的优劣势比较,以及消息队列的选型 1.解耦 解耦是消息队列要解决的最本质问题。 2.最终一致性 最终一致性指的是两个系统的状态保持一致,要么都成功,要么都失败。 最终一致性不是消息队列的必备特性,但确实可以依靠消息队列来做最终一致性的事情。 2.广播 消息队列的基本功能之一是进行广播。 有了消息队列,我们只需要关心消息是否送达了队列,至于谁希望订阅,是下游的事情,无疑极大地减少了开发和联调的工作量。

qq_44949002的博客 1236

学Simulink——基于Simulink的Buck-Boost变换器双闭环PI+抗饱和设计建模示例

本文详细介绍了基于Simulink的非反相Buck-Boost变换器双闭环控制设计方法。针对Buck-Boost变换器特有的右半平面零点(RHPZ)和控制挑战,提出了电压-电流双闭环PI控制架构,并集成抗积分饱和机制。通过Simulink建模,实现了主电路、电流内环PI、电压外环PI、PWM及占空比限幅等模块的搭建,验证了在输入电压跌落(20V→10V)和负载突变(2A→4A)等场景下的稳定性能。仿真结果表明,输出电压波动小于0.35V,恢复时间快于1ms,电感电流有效限幅。文章还讨论了工程实践要点和扩展方

xiaoheshang_123的博客 318
上一篇: SpringBoot 之assembly自定义打包
下一篇: hadoop学习笔记
「已注销」
博客等级 码龄13年 194粉丝 106原创
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值