大数据系列 | Kafka架构分析及应用

本文介绍了消息系统的基本概念和常见类型,重点解析了Kafka的高吞吐量、持久化特性及其分布式架构。Kafka不仅依赖Zookeeper(2.8版本前)进行集群管理,还涉及Controller的角色和功能。文章详细阐述了Kafka的安装、生产者和消费者使用,以及Zookeeper集群的配置,展示了Kafka在实时数据计算中的重要地位。

1. 消息系统介绍

   常用消息系统对比:
   ■ RabbitMQ:Erlang编写,支持多协议AMQP、XMPP、SMTP、STOMP。支持负载均衡、数据持久化。同时支持Peer-to-Peer和发布/订阅模式。.
   ■ Redis:基于Key-Value对的NoSQL数据库,同时支持MQ功能,可做轻量级队列服务使用。就入队操作而言,Redis对短消息(小于10KB)的性能RabbitMQ好,长消息的性能比RabbitMQ差。
   ■ ZeroMQ:轻量级,不需要单独的消息服务器或中间件,应用程序本身扮演该角色,Peer-to-Peer。它实质上是一个库,需要开发人员自己组合多种技术,使用复杂度高。
   ■ ActiveMQ:JMS实现,Peer-to-Peer,支持持久化.、XA事务。
   ■ Kafka/Jafka:高性能跨语言的分布式发布/订阅消息系统,数据持久化,全分布式,同时支持在线和离线处理。
   ■ MetaQ/RocketMQ:纯Java实现,发布/订阅消息系统,支持本地事务和XA分布式事务。

   消息系统适用场景:

   ■ 解耦: 各位系统之间通过消息系统这个统一的接口交换数据,无须了解彼此的存在
   ■ 冗余: 部分消息系统具有消息持久化能力,可规避消息处理前丢失的风险

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

降世神童

学都学了,看也看了,感谢打赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值