
大数据之Kafka
素颜vv风之殇
hadoop,storm,spark,云计算等最新前沿技术分享交流
展开
-
Kafka学习之路 (四)Kafka的安装
一、下载下载地址:http://kafka.apache.org/downloads.htmlhttp://mirrors.hust.edu.cn/apache/二、安装前提(zookeeper安装)参考http://www.cnblogs.com/qingyunzong/p/8634335.html#_label4_0三、安装此处使用版本为kafka_2.11-0.8.2.0.tgz2.1 上传解压缩[hadoop@hadoop1 ~]$ tar -zxvf kafk转载 2020-11-25 11:28:49 · 354 阅读 · 0 评论 -
Kafka学习之路 (三)Kafka的高可用
目录一、高可用的由来1.1 为何需要Replication1.2 Leader Election二、Kafka HA设计解析2.1 如何将所有Replica均匀分布到整个集群2.2 Data Replication(副本策略)2.2.1 消息传递同步策略2.2.2 ACK前需要保证有多少个备份2.2.3 Leader Election算法2.2.4 如何处理所有Replica都不工作2.2.5 选举Leader三、HA相关ZooKeeper结构3.1 ad转载 2020-11-25 11:05:08 · 537 阅读 · 0 评论 -
Kafka学习之路 (二)Kafka的架构
一、Kafka的架构如上图所示,一个典型的Kafka集群中包含若干Producer(可以是web前端产生的Page View,或者是服务器日志,系统CPU、Memory等),若干broker(Kafka支持水平扩展,一般broker数量越多,集群吞吐率越高),若干Consumer Group,以及一个Zookeeper集群。Kafka通过Zookeeper管理集群配置,选举leader,以及在Consumer Group发生变化时进行rebalance。Producer使用push模式将消息发布到b转载 2020-11-25 09:48:54 · 775 阅读 · 0 评论 -
Kafka学习之路 (一)Kafka的简介
目录一、简介1.1 概述1.2 消息系统介绍1.3 点对点消息传递模式1.4 发布-订阅消息传递模式二、Kafka的优点2.1 解耦2.2 冗余(副本)2.3 扩展性2.4 灵活性&峰值处理能力2.5 可恢复性2.6 顺序保证2.7 缓冲2.8 异步通信三、常用Message Queue对比3.1 RabbitMQ3.2 Redis3.3 ZeroMQ3.4 ActiveMQ3.5 Kafka/Jafka四、K.转载 2020-11-24 20:55:01 · 114 阅读 · 0 评论