【Kafka】(二)Kafka去Zookeeper化,kraft模式搭建

kafka3.X集群安装(不使用zookeeper) 阅读详情

1.简介

由于zookeeper慢慢的成了kafka的瓶颈,kafka提出了去zookeeper化的概念,并在2.8版本之后版本都包含了kraft模式,也就是不需要使用zookeeper了,目前这种模式还不成熟,企业中使用kafka还是推荐使用zk+kafka的方式,否则可能会出现意想不到的错误。

2.环境准备

准备2台centos虚拟机以及kafka3.0的压缩包即可,上一节中,已经介绍了如何下载以及如何安装centos虚拟机了。

3.开始搭建

3.1 修改配置文件

解压kafka3.0到/usr/local下,我这里将它更名为kafka2
在这里插入图片描述
这里修改的配置文件和之前的配置文件就有一点不同了,需要修改kafka目录下config/kraft/server.properties文件
在这里插入图片描述
编辑server.properties文件

vi server.properties

需要修改的参数有:

# 说明本台kafka的角色,是broker还是controller,controller相当于之前的zk
process.roles=broker,controller
# 集群中的唯一ID,不同机器的kafka这里要设置成不一样的
node.id=1
# 集群配置,格式为nodeId@IP:端口,我这里用2台做集群,中间用逗号分隔
controller.quorum.voters=1@192.168.181.128:9093,2@192.168.181.129:9093
listeners=PLAINTEXT://192.168.181.128:9092,CONTROLLER://192.168.181.128:9093
# kakfa机器注册的IP
advertised.listeners=PLAINTEXT://192.168.181.128:9092
# 数据存储的地址
log.dirs=/usr/local/kafka2/data

保存退出,将配置好的kafka发送到另一台机器上

scp -r /usr/local/kafka2 root@192.168.181.129:/usr/local/

将第二台机器的node.id还有注册地址改一下

node.id=2
listeners=PLAINTEXT://192.168.181.129:9092,CONTROLLER://192.168.181.129:9093
advertised.listeners=PLAINTEXT://192.168.181.129:9092

先前我们已经把9092端口打开了,这里我们将9093端口也打开一下,用作kafka之间的通讯

firewall-cmd --zone=public --add-port=9093/tcp --permanent

3.2 生成集群唯一ID

kraft模式需要我们生成集群的唯一ID,用来配置集群环境,kafka给我们提供了一个工具kafka-storage.sh

/usr/local/kafka2/bin/kafka-storage.sh random-uuid

在这里插入图片描述
利用该UUID配置一下我们的集群环境(注意每个kafka都要运行一下,要使用这同一个UUID)

/usr/local/kafka2/bin/kafka-storage.sh format -t e32o2jB4SwGFQYn18rauDA -c /usr/local/kafka2/config/kraft/server.properties 

可以看到,这么做的目的,是将我们的UUID写到配置文件当中
在这里插入图片描述

3.3 启动kafka集群

/usr/local/kafka2/bin/kafka-server-start.sh -daemon /usr/local/kafka2/config/kraft/server.properties 

3.4 验证一下kafka有没有搭建成功

往第一台borker里面新建一个主题first,发现第二台机器也可以看到这个主题,集群搭建成功
在这里插入图片描述

kafka3.1集群搭建(kraft模式) 导读 我公司有一个项目现场那边说zk有漏洞,所以我们就打算部署一套不依赖zookeeper的kafka高版本集群,也就是Kraft模式。 Apache Kafka3.0.0的发布为kafka彻底去掉Zookeeper铺平了道路,Kafka Raft 支持元数据主题的快照以及自我管理,而3.1.0版本在2022.1.24发布,对3.0.0版本又修改了。我们先来初步体验一下KRaft的入门。 KRaft简介 Kafka的共识机制KRaft,仍然处于预览机制。未来KRaft将作为Apache Kafka的 阅读详情

相关推荐

【运维】Kafka高可用: KRaft(不依赖zookeeper)集群搭建_kafka kraft

不像基于ZooKeeper的模式,(zk去做的事情,我们手动配置不了)任何服务器都可以成为控制器。这带来了一个非常优秀的好处,即如果我们认为 controller 节点的负载会比其他只当做broker节点高,那么可以为 controller 节点使用高配的机器。这就解决了在1.0, 2.0架构中, controller 节点会比其他节点负载高,却无法控制哪些节点能成为 controller 节点的问题。被()选中的 controller 节点将参与元数据集群的选举。

2401_86401589的博客 2613

帅呆了!Kafka移除了Zookeeper!

普天同庆!最新版的Kafka 2.8.0,移除了对Zookeeper的依赖,通过KRaft进行自己的集群管理。很好很好,终于有点质的改变了。一听到KRaft,我们就想到了Raft协议。Raft协议是当今最流行的分布式协调算法,Etcd、Consul等系统的基础,就来自于此。现在Kafka也有了。由于这个功能太新了,所以2.8.0版本默认还是要用ZooKeeper的,但并不妨碍我们尝尝鲜。另外,不要太激动了,据官方声称有些功能还不是太完善,所以不要把它用在线上。

大叶子不小的博客 4253

Kylin Server V10 下基于Kraft模式搭建Kafka集群

介绍了 Kafka 下Kraft模式集群与 ZooKeeper 模式集群的区别,以及在Kylin Server V10下如何搭建基于 Kraft 模式的 Kafka 集群。

禅与代码的艺术 1302

Kafka2.8 去除 Zookeeper

Kafka在2.8版本中正式去除Zookeeper,拥抱Raft

杨宇昌的博客 2180

kafka 集群 KRaft 模式搭建

本文详细介绍了如何搭建Kafka KRaft模式集群。主要内容包括:1) 下载Kafka 3.6.0并上传到3台服务器;2) 配置server.properties文件,设置节点ID、监听地址等参数;3) 生成集群ID并初始化元数据;4) 开放防火墙端口并启动集群;5) 通过命令行和Java项目两种方式测试集群功能。KRaft模式从Kafka 2.8开始移除对Zookeeper的依赖,采用基于Kafka Raft的Quorum控制器实现集群管理。该教程适用于需要搭建无Zookeeper依赖的Kafka集群的

꯭ 瞎꯭扯꯭蛋꯭的博客 932

【kafka专栏】kafka3.0版本不再需要zookeeper,替代方案是什么?

在2.8版本之前,kafka都是强依赖zookeeper这个分布式服务协调管理工具的。在kafka2.8版本开始尝试从服务架构中去掉zookeeper,到了3.0版本这个工作基本上完成,这是kafka的一个非常重要的里程碑。 如果想要理解kafka3.0的新架构设计,实际上我们还是有必要理解kafka2.x版本中中zookeeper的作用是什么?为什么要在3.0版本中去掉?使用什么技术代替了kafka?

字母哥博客 8859

Kafka高可用 — KRaft集群搭建

Kafka Raft 是一种共识协议,它的引入是为了消除 Kafka 对 ZooKeeper 的元数据管理的依赖,被社区称之为 Kafka Raft metadata mode,简称 KRaft 模式。本文介绍了KRaft模式及三节点的 KRaft 集群搭建。

WonderThink的博客 8087

Kafka 之 KRaft —— ZooKeeper 到 KRaft 的迁移

Kafka 在 3.X 版本后内置了 KRaft 用来替代 ZooKeeper 管理集群,但是在升级的过程中发现,许多升级的文档都是只有新部署安装 KRaft 版本,而没有涉及到数据迁移相关的资料,这样如果直接变更的话,会导致 Kakfa 中的数据全部丢失,这在客户的生产环境中是不可接受的,所以本文把官网的迁移方案作了一下翻译。

流华追梦的专栏 2406

ZooKeeper 和 Kafka的关系以及 KRaft 模式介绍

ZooKeeper 和 Kafka的关系以及 KRaft 模式介绍

weixin_45428910的博客 1668

kafka最新版本3.1.0版本安装(使用zookeeper及使用kraft)两种安装及日常维护命令,kafka 3.0

kafka最新版本3.1.0版本安装(使用zookeeper及使用kraft)两种安装及日常维护命令,kafka 3.0提出了去 [Zookeeper]后的 Kafka,即 KRaft 模式,本文对相关安装、维护、及新版本的一些更新进行说明

深度学习(Deep Learning, DL)简介

深度学习(Deep Learning, DL)是机器学习的一个子领域,主要使用多层神经网络来处理复杂的数据和任务。深度学习通过模拟人脑的神经网络结构,能够自动提取特征并进行高效的模式识别和预测。

qq_28791753的博客 1万+

Kafka 集群 KRaft 模式搭建

Kafka的KRaft模式是一种新的元数据管理方式,旨在去除对ZooKeeper的依赖,使Kafka成为一个完全自包含的系统。在Kafka的传统模式下,元数据管理依赖于ZooKeeper,这增加了部署和运维的复杂性。为了解决这个问题,Kafka社区引入了KRaft模式。在KRaft模式下,所有的元数据,包括主题、分区信息、副本位置等,都被存储在Kafka集群内部的特殊日志中。这个日志使用Raft协议来保证一致性。

小毕超博客 2913

快速了解Spyder

一 面板介绍菜单栏:放置所有功能工具栏:放置快捷菜单,可以通过菜单栏中的View的Toolbars的复选框来勾选工作区:写代码的地方属性页的标题栏:可以显示当前代码的名字和位置查看栏:查看文件、调试时的对象及变量输出栏:查看程序的输出信息,也可以作为shell终端来输入Python语句状态栏:用来显示当前文件权限、编码,光标指向位置和系统内存二 注释功能注释功能为编写代码很常用功能,下面介绍Spy...

实践求真知 1万+

【中间件】docker+kafka单节点部署---zookeeper模式

最近生产环境上准备部署ELFK日志监控,先在测试环境部署单节点kafka验证调通相关配置,特此记录kafka部署流程,后续再补充kafka高可用方案;

youmiqianyue的博客 2964

以太网详解(一)-MAC/PHY/MII/RMII/GMII/RGMII基本介绍

网络设备中肯定离开不MAC和PHY,本篇文章将详细介绍下以太网中一些常见术语与接口。 MAC和PHY结构 从硬件角度来看以太网是由CPU,MAC,PHY三部分组成的,如下图示意: 上图中DMA集成在CPU,CPU,MAC,PHY并不是集成在同一个芯片内,由于PHY包含大量模拟器件,而MAC是典型的数字电路,考虑到芯片面积及模拟/数字混合架构的原因,**将MAC集成进CPU而将PHY留在片外,这种...

sternlycore的博客 13万+

2026年国赛C题微网与外部电网电力调控策略 (三):问题三、问题四滚动预测、实时电价与结果核验

专栏内定期更新ABCDE五题详细思路、代码(含运行结果图)和讲解视频-(11号之前半价):问题三看起来只是多给了一个光伏预报附件,实质上它改变了整道题的信息结构:问题四则是在问题二、问题三之上替换价格来源。问题4-2相当于“确定性计划+实时电价”,问题4-3相当于“滚动预测+实时电价”。物理模型完全不变,改变的是价格序列和费用口径。本文先给出核心结果:从结果看,问题3比问题2多约164.21万元,问题4-3比问题4-2多约168.79万元。主要增量不是“储能没有工作”,而是预测误差、计划偏差和紧急购电造成的

YOLO 343

kafka实战 集群搭建-Kraft模式

kafka集群实战,EFAK配置、kraft集群配置及启动 持续更新!

qq_73181349的博客 1817

Open3D (C++)球旋转算法(BPA)三维建模

球旋转算法用于点云三维建模的C++代码实现。

点云侠的博客 1771

Kafka KRaft模式详解:告别ZooKeeper的新时代

fill:#333;color:#333;color:#333;fill:none;KRaft模式ZooKeeper模式ControllerQuorumBroker 1Broker 2Broker 3ZooKeeper集群ControllerBroker 1Broker 2Broker 3方面具体改进业务价值运维成本减少50%组件数量降低维护成本恢复时间从分钟级到秒级提高可用性集群规模支持5倍更多分区支撑业务增长资源使用减少30%内存使用降低硬件成本部署复杂度简化部署流程。

苦哈哈的 C++ 程序员,写这个技术博客不是为了装逼,也不是为了立人设,是为了收割流量 1575

TC3XX - MCAL知识点(二十九):FLS MCAL配置及代码实战(英飞凌DFLASH)

FLS驱动程序为DFlash 0的初始化、读取、写入和擦除提供了定义良好的配置和标准服务。除此之外,我们还提供一些非autosar服务示例 Fls_17_Dmu_CompareWordsSync、Fls_17_Dmu_CancelNonEraseJobs、Fls_17_Dmu_VerifyErase,LFls_17_Dmu_VerifySectorErase、Fls_17_Dmu_GetNotifCaller等。用户通过FLS驱动程序获得对底层DFlash0的封装访问。

梦想技术家 2363

YOLOv8改进 | Conv篇 | 轻量级下采样方法ContextGuided(大幅度涨点)

ContextGuided通过创新的局部-全局协同机制,解决了传统下采样方法中细节丢失与上下文缺失的核心痛点。实验证明其在YOLOv8上可实现最高2.6%的mAP提升,且计算开销增加不足5%。这种即插即用的设计为实时目标检测系统提供了新的优化方向。创新启示:轻量化不代表简单裁剪,智能信息融合才是未来方向!下一步探索与Transformer结合构建混合架构多尺度上下文融合机制3D点云中的扩展应用资源获取完整训练代码:[GitHub链接]预训练模型:[Google Drive链接]讨论话题。

QQ_778132974的博客 288

Kafka 去 ZooKeeper 化实战:KRaft 架构高可用部署实践与运维提升之道

本文介绍了Kafka-KRaft架构的高可用部署实践,重点阐述了去ZooKeeper化带来的优势:简化部署、提升性能和增强稳定性。文章提供了详细的部署指南,包括系统要求、架构设计、安装步骤及配置说明,采用Controller与Broker分离部署模式,并配置了SASL简单密码验证机制确保安全性。通过实际操作演示了如何初始化集群、配置节点及验证部署,为读者提供了从零开始搭建高可用Kafka集群的完整方案。

代码在键上,故事在江湖。 分享云原生、后端架构与运维实践,记录技术成长路上的每一个脚印。 更多原创内容,欢迎关注微信公众号 「键上江湖」,与你一键相逢。 1716

一文吃透 ABAP RESTful Application Programming Model(RAP):从数据建模与行为,到业务服务暴露,再到服务消费

本文介绍了SAP ABAP统一编程模型RAP的核心架构与实践方法,通过构建完整的ZTRAVEL和ZBOOKING业务对象,演示了从数据建模、行为定义到服务暴露的全流程。文章详细说明了RAP三层架构(数据与行为层、服务提供层、服务消费层)的实现方式,包括CDS视图实体定义、行为定义(BDEF)中的事务能力声明、投影与服务绑定等关键步骤。特别强调了ABAP Cloud环境下的开发限制和最佳实践,如使用GUID和late numbering机制,以及如何通过EML语言操作业务对象。最后提供了完整的代码示例,展示了

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 521

KRaft模式下的Kafka启动指南:摆脱Zookeeper依赖

多年来,人们一直在同时使用Apache ZooKeeper和Apache Kafka。但是自Apache Kafka 3.3发布以来,它就可以在没有ZooKeeper的情况下运行。同时它包含了新的命令kafka-metadata-quorum和kafka-metadata-shell?该如何安装新版kafka,以及如何使用新命令,在本文中,我将回答这些和其他相关的问题。

srebro.cn | 运维小弟 2741

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

Kafka元数据管理的演进:从ZooKeeper到KRaft,为何要‘去ZooKeeper’化?

从ZooKeeper到KRaft的演进,不仅仅是Kafka架构的一次重大升级,更是分布式系统设计理念的深刻变革。这种转变背后,是技术社区对高可用性、简化运维和降低外部依赖的持续追求。通过全文的探讨,我们能够清晰地看到,KRaft模式凭借其基于Raft协议的内部机制,不仅解决了ZooKeeper带来的性能瓶颈和单点故障问题,还显著提升了Kafka的整体自治能力和扩展性。回顾ZooKeeper时代,Kafka的元数据管理高度依赖外部系统,这在带来一定稳定性的同时,也引入了额外的复杂性和运维成本。

zuiyuelong的博客 979

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

上一篇: 【Kafka】(一)Kafka的单机配置,以及集群环境部署
下一篇: 【Quartz】(一)定时框架Quartz的持久化配置
JeffHan^_^
博客等级 码龄7年 1万+粉丝 134原创
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

JeffHan^_^

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值