大数据时代|Zookeeper分布式集群搭建,和你的认知是否一致

zookeeper集群部署(单机 windows) 注意:zookeeper集群数量推荐最好是奇数个,这是因为zookeeper集群需要选举leader节点,半数以上的会被选举为Leader节点,且集群半数以上存活,代表zookeeper集群存活。server后面第一个数字1-3代表刚才配置的myid的数字,zookeeper集群中有哪些服务器,后面ip是每个集群的ip地址,因为是单机所以都是localhost,后面的第一个端口是通信端口,第二个是选举端口。4.添加myid文件,myid文件是用来唯一标识每个zookeeper实例在集群中的id。 阅读详情

前言

Zookeeper是什么?

官方文档上这么解释zookeeper,它是一个分布式服务框架,是Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。

文中Zookeeper分布式集群搭建在Linux CentOS7系统之上。搭建大数据分布式集群,不建议使用root用户直接操作,故文中使用bigdata用户进行集群的搭建。

一、环境准备

软件版本
Linux系统CentOS7
JDKjdk-8u221-linux-x64.tar.gz
Zookeeperzookeeper-3.4.5-cdh5.14.2.tar.gz

 

二、机器配置

主机名hadoop01hadoop02hadoop03
内存8G8G8G
CPU4核4核4核
硬盘500G500G500G
服务

QuorumPeerMain

QuorumPeerMain

 QuorumPeerMain

 

 

三、前期准备工作

  1、关闭防火墙(使用root权限,将ip修改成对应的ip地址)

firewall-cmd --state # 查看防火墙状态
systemctl stop firewalld.service # 停止防火墙
systemctl disable firewalld.service # 禁止开机启动防火墙

  2、配置host主机映射(使用root权限,将ip修改成对应的ip地址)

sudo vi /etc/hosts

ip1 hadoop01
ip2 hadoop02
ip3 hadoop03

  3、创建普通用户(bigdata)

useradd bigdata  # 添加普通用户
passwd bigdata # 为普通用户设置密码

  4、为bigdata用户配置ssh免密码登陆(具体操作步骤略,执行命令如下)

ssh-keygen -t rsa # 生成密钥对(一路回车即可)
ssh-copy-id hadoop01 # 分别拷贝公钥到三台机器上

  5、配置三台机器的时间同步

    待更新

 

四、Zookeeper分布式集群搭建

  1、安装jdk,将jdk安装在/usr/local目录下, 要求执行用户需要有该目录下的权限

    1.1、解压jdk

tar zxvf jdk-8u221-linux-x64.tar.gz -C /usr/local

    1.2、配置环境变量

vi ~/.bash_profile

## 在行末添加以下内容,并保存关闭
############# JAVA_HOME  ################
export JAVA_HOME=/usr/local/jdk1.8.0_221
export PATH=$PATH:$JAVA_HOME/bin

    1.3、生效环境变量

source ~/.bash_profile

    1.4、验证

java -version

  2、搭建zk环境,zk安装在/opt/software目录下,要求执行用户需要有该目录下的权限

    2.1、下载并解压安装包

tar zxvf zookeeper-3.4.5-cdh5.14.2.tar.gz -C /opt/software

    2.2、创建目录

mkdir -p /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData

    2.3、修改配置文件

mv zoo_sample.cfg zoo.cfg # 重命名配置文件
vi zoo.cfg

# 修改dataDir属性
dataDir=/opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData
# 添加以下内容
server.1=hadoop01:2888:3888
server.2=hadoop02:2888:3888
server.3=hadoop03:2888:3888

    2.4、向另外两台机器分发

scp -r zookeeper-3.4.5-cdh5.14.2 hadoop02:/opt/software
scp -r zookeeper-3.4.5-cdh5.14.2 hadoop03:/opt/software

    2.5、分别在三台机器上添加myid文件

# 在hadoop01上执行
echo 1 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid

# 在hadoop02上执行
echo 2 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid

# 在hadoop03上执行
echo 3 > /opt/software/zookeeper-3.4.5-cdh5.14.2/data/zkData/myid

    2.6、分别在三台机器上配置ZK环境变量

vi ~/.bash_profile

## 在行末添加以下内容,并保存关闭
############# ZK_HOME  ################
export ZK_HOME=/opt/software/zookeeper-3.4.5-cdh5.14.2
export PATH=$PATH:$ZK_HOME/bin

    2.7、生效环境变量

source ~/.bash_profile

    2.8、分别在三台机器上启动zk

zkServer.sh start # 启动zk
zkServer.sh status # 查看zk状态
zkServer.sh stop # 停止zk

  至此,zookeeper分布式集群搭建完成,可以通过jps命令查看QuorumPeerMain进程是否存在,或者使用zkCli.sh进入zk客户端,来验证集群是否安装成功。

已上就是小编帮大家整理的zookeeper分布式的集群搭建,是否和大家的预期一样呢?欢迎大家留言交流,请关注小编,你们的支持就是小编最大的动力!!!

(超详细)基于Zookeeper的Hadoop HA集群的搭建 基于Zookeeper的Hadoop HA集群的搭建 JunLeon——go big or go home 前言: 高可用(high availability,HA)指的是若当前工作中的机器宕机了,系统会自动处理异常,并将工作无缝地转移到其他备用机器上,以保证服务的高可靠性与可用性。 Hadoop HA是hadoop2.0后新添加的特性,包括NameNode HA和ResourceManager HA。 NameNode HA采用双Na... 阅读详情

相关推荐

Zookeeper集群搭建与配置详解:大数据环境下的最佳实践

Apache Zookeeper作为分布式系统的核心协调服务,在现代大数据架构中扮演着不可或缺的角色。本文将带领读者深入探索Zookeeper集群的搭建与配置,从理论基础到实践操作,全面解析如何在大数据环境中构建稳定、高效、可靠的Zookeeper集群。我们将系统讲解Zookeeper的核心概念、集群工作原理、搭建步骤、配置优化、安全加固、监控告警以及故障处理等关键知识,并通过大量实战案例和最佳实践,帮助读者掌握在生产环境中部署和维护Zookeeper集群的专业技能。

AI Python 编程之道的博客 1111

大数据hadoop集群的搭建及配置(三台)

Hadoop知识点 配置集群前的规划(提前写在记事本上) 确定三台的ip 找到三台虚拟机的MAC地址 给三台虚拟机起什么名字 最好在根目录下(/)建一个目录export,里面建立两个目录(servers存放解压后的软件,software存放从windows传来的压缩包) 网络配置 配置各个服务器的网络,相互之间能ping通,而且外网也可以ping通 主机名的修改,默认都是localhost,把HOSTNAME改一下,三台可以分别改为hadoop01、hadoop02、hadoop0

weixin_56612338的博客 3091

Hadoop 与 Zookeeper 集群搭建

Hadoop 是一个分布式系统基础架构,由 Apache 基金会开发,旨在处理大规模数据集。Hadoop 分布式文件系统(HDFS):一种分布式文件系统,能够将大文件切分成多个块,并存储在集群中的不同节点上。具有高容错性、高吞吐量等特点,适合大规模数据的存储。例如,在一个大型互联网公司中,每天产生的海量用户行为数据可以存储在 HDFS 中。MapReduce 编程模型:用于大规模数据集的并行计算。通过将计算任务分解为 Map(映射)和 Reduce(归约)两个阶段,实现数据的分布式处理。

miraitowa_1949的博客 1999

Windows配置zookeeper集群

在Windows中配置伪集群,三台zookeeper服务。

weixin_53818213的博客 1735

(五)使用Ansible搭建分布式大数据基础环境-ZooKeeper集群模式搭建

“使用Ansible搭建分布式大数据基础环境”系列文章完整包含了如何使用Ansible这一分布式运维利器,来帮我们快速搭建Hadoop2/Spark2/Hive2/ZooKeeper3/Flink1.7/ElasticSearch5等一整套大数据解决方案。本篇是系列文章的第五篇。更多后续文章尽请关注。 (一)使用Ansible搭建分布式大数据基础环境-环境准备 (二)使用Ansible搭建分...

workwithwebis3w的专栏 974

大数据ZooKeeper(二):ZooKeeper集群搭建

文章目录ZooKeeper集群搭建第一步:下载zookeeeper的压缩包,下载网址如下第二步:解压第三步:修改配置文件第四步:添加myid配置第五步:安装包分发并修改myid的值第六步:三台机器启动zookeeper服务Zookeeper集群搭建指的是ZooKeeper分布式模式安装。通常由2n+1台server组成。这是因为为了保证Leader选举(基于Paxos算法的实现)能过得到多数的支持,所以ZooKeeper集群的数量一般为奇数。Zookeeper运行需要java环境,所以需要提前安装jdk。对

Lansonli(蓝深李)的博客 3251

win搭建ZooKeeper 集群

win搭建ZooKeeper 集群

weixin_56176015的博客 813

搭建基于Zookeeper服务的Hbase集群

本实验任务主要完成基于ubuntu环境搭建基于Zookeeper服务的Hbase集群的工作。通过完成本实验任务,要求学生熟练掌握搭建基于Zookeeper服务的Hbase集群的方法,为后续实验的开展奠定Hbase平台基础,也为从事大数据平台运维工程师、大数据技术支持工程师等岗位工作奠定夯实的技能基础。1、掌握搭建基于Zookeeper服务的Hbase集群Ubuntu(三台节点:mater,slave1,slave2)、Hadoop2.7.3、Hbase1.2.6Hbase是一个分布式的、面向列的开源数据库,

需要远程指导仿真实验、代码有问题的,请后台私信或者关注公众号 2256

CDH大数据平台搭建之HADOOP分布式集群搭建

CHD大数据平台搭建之HADOOP安装一、什么是HADOOP?二、如何下载1.官网下载2.网盘下载三、搭建集群1.准备5台虚拟机2.安装JDK3.安装ZOOKEEPER4.集群规划5.安装HADOOP6.修改配置文件1、进入配置文件目录:2、修改env文件3、修改core-site.xml文件4、修改hdfs-site.xml文件5、配置mapred-site.xml文件6、修改yarn-site.xml文件7、修改slaves文件8、分发文件9、配置环境变量四、启动集群1.启动ZOOKEEPER集群2.启

qq_41924766的博客 4834

Zookeeper在windows搭建伪集群

Zookeeper在windows搭建伪集群 Zookeeper在windows搭建伪集群

Xilinx UltraScale+ FPGA实战:手把手教你实现USB3.0设备开发(附原理图+代码)

本文详细介绍了如何使用Xilinx UltraScale+ FPGA开发USB3.0设备,涵盖硬件设计、Vivado工程配置、Petalinux系统定制及功能测试全流程。通过实战案例和优化技巧,帮助开发者快速掌握高速数据传输实现方法,提升嵌入式系统开发效率。

weixin_29159995的博客 209

大数据学前准备--zookeeper详解与集群搭建(保姆级教程)

深度解析zookeeper理论知识以及手把手教你搭建起集群,保姆级的教程。点赞收藏一点也不亏吖!

wudidahuanggua的博客 5236

从原理到应用:深入解析双编码器在机器人关节力矩感知中的实现

本文深入解析了双编码器方案在机器人关节力矩感知中的实现原理与应用。该方案通过在电机侧和输出侧分别安装编码器,利用两者位置差异间接高精度计算外力,克服了传统电流环精度不足和扭矩传感器成本高昂的缺点。它为实现协作机器人的丝滑拖动示教、灵敏碰撞检测以及足式机器人的动态平衡与柔顺控制提供了关键技术支撑,是目前高性能机器人力控的主流选择。

t8u9v0w1x的博客 662

zookeeper集群搭建超详细教程

zookeeper 集群搭建的保姆级教程!

笑看风云路的博客 1万+

保姆级教程:用NFS把群晖NAS的文件夹挂到Ubuntu 22.04上,实现文件无缝共享

本文提供了一份详细的教程,指导用户如何通过NFS协议将群晖NAS的文件夹挂载到Ubuntu 22.04系统上,实现文件的无缝共享。文章对比了NFS与SMB协议的性能差异,并提供了群晖端和Ubuntu端的配置指南、高级参数优化、自动挂载方案以及生产环境中的实战技巧,帮助用户提升文件共享效率和系统稳定性。

weixin_29213827的博客 405

如何点亮一颗sensor

要点亮一个sensor需要从,时钟、sensorI2C,供电,reset脚,mipi的配置几个方面一一确认。 reset脚拉高 给sensor的时钟有没有。(目前用到的常为24MHZ) 供电 查看sensor的数据手册,看有几个电源,用示波器量一下是否为手册规定的电压 比如:DVDD 数字电压: AVDD模拟电压 DOVDD芯片引脚出来的电压等为多少。 sensor的I2C能否抓到 将I2C的口对应上,用示波器量取i2c的波形。 检查有应答并且数据正确。读写地址是否正...

weixin_40787463的博客 3647

大数据分布式集群环境搭建详细步骤(Zookeeper,Hadoop安装与配置)

大数据分布式集群环境搭建详细步骤(Zookeeper,Hadoop安装与配置) 前言:前面我们完成了Linux系统的安装及网络配置,接下来我们继续完成Zookeeper和Hadoop的安装与配置。 ...

ZFX008的博客 1277

保姆级教程:用Multisim仿真快速上手二极管、MOSFET和IGBT的开关特性

本文提供了一份详细的Multisim仿真教程,帮助读者快速掌握二极管、MOSFET和IGBT的开关特性。通过搭建实验电路、观察波形特征和参数影响分析,深入解析了反向恢复过程、米勒平台现象和拖尾电流效应。适合电力电子初学者和工程师通过仿真建立直观理解,提升电路设计能力。

weixin_29290863的博客 498

基于zookeeper搭建kafka集群

Kafka 是一款开源的分布式流处理平台,最初由 LinkedIn 开发,后由 Apache 基金会维护。它被设计用于高吞吐、可扩展的实时数据管道和流处理场景。Kafka 的核心功能包括发布和订阅消息流、持久化存储数据以及实时处理数据流。其架构基于生产者(Producer)、消费者(Consumer)、主题(Topic)和分区(Partition)等概念,支持水平扩展和高容错性。Kafka 广泛应用于日志收集、消息系统、实时分析和事件溯源等场景,是现代大数据生态系统中不可或缺的组件之一。

muxia_jhy的博客 1756

【新版系统架构】系统架构设计师教程全篇知识点提炼

信息系统的5个基本功能:输入、存储、处理、输出和控制信息系统的发展:诺兰模型:初始阶段、传播阶段、控制阶段、集成阶段、数据管理阶段、成熟阶段信息系统的分类:传统的信息系统分为:业务(数据)处理系统、管理信息系统(MIS)、决策支持系统(DSS)、专家系统(ES)、办公自动化系统(OAS)等5类信息系统的生命周期:1、产生阶段2、开发阶段(总体规划、系统分析、系统设计、系统实施、系统验收阶段)3、运行阶段4、消亡阶段信息系统建设原则:1、高层管理人员介入原则。

分享技术干货和灵感、推荐新书和好玩的项目、分享Java面试题 1万+

ATS Request中的PASID的作用是什么

摘要: PASID(进程地址空间标识符)是PCIe ATS(地址转换服务)中的关键组件,用于标识不同进程或虚拟机的地址空间。其主要作用包括:1)支持多进程共享设备时隔离地址空间;2)实现共享虚拟地址(SVA),允许用户态程序直接访问设备;3)提升虚拟化性能(如SIOV),通过PASID区分虚拟机请求;4)增强安全性,基于PASID限制设备内存访问权限。PASID通过20位标识符在TLP前缀中传递,与IOMMU协作完成地址转换与缓存,适用于高性能计算、AI及虚拟化场景,但依赖硬件支持和软件适配。

元直的博客 1562

ZooKeeper架构深度解析:分布式协调服务的核心设计与实现

ZooKeeper:分布式协调服务的核心架构解析 摘要 ZooKeeper是Apache开源的高性能分布式协调服务,为分布式系统提供一致性、可靠性和高效性的基础支持。其核心架构设计包括: 层次化命名空间:采用类似文件系统的树形结构(ZNode),支持多种节点类型(持久、临时、顺序节点) 强一致性保证:基于ZAB协议实现原子广播,确保数据顺序一致性和可靠性 高可用集群:Leader-Follower架构,支持故障自动恢复和数据同步 事件监听机制:Watcher机制实现高效的节点变更通知 丰富的应用场景:广泛用

言不信者行不果,行不敏者言多滞. 3011

微信小程序 “net::ERR_CONNECTION_REFUSED” 报错大揭秘与破解之道

在微信小程序开发与运行过程中,“net::ERR_CONNECTION_REFUSED” 报错是开发者常遇难题。该错误意味着小程序与服务器连接建立失败,会导致功能无法使用、数据加载异常等问题,严重影响用户体验和业务运转。本文系统剖析此错误,从网络环境不佳、服务器异常、小程序配置有误等常见触发场景入手,提供网络、服务器、配置、代码等多维度排查步骤,给出针对性解决策略,如修复网络、处理服务器故障、修正配置与代码错误,还提出开发与运维阶段的预防措施,助力开发者高效解决该报错问题。

邓邓子的博客 6134

大数据-26 ZooKeeper 分布式协调框架 简介与配置 Leader Follower Observer

ZooKeeper 是一个高可用的分布式协调服务,具备顺序一致性、原子性、可靠性等特性,广泛应用于分布式系统中的命名服务、配置管理、分布式锁、消息队列和主节点选举等场景。其数据模型采用类Unix的树形结构,支持临时节点和监听机制(Watcher)。ZooKeeper 使用 ZAB 协议保障一致性,由 Leader 处理所有写请求,Follower 响应读请求,Observer 提供读能力不参与选举。典型部署建议使用奇数节点形成多数派。集群容错能力强,只需保持过半节点存活。

谢谢你的喜欢 我们一起无限进步 6742

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

大数据场景下的Zookeeper集群的搭建

等服务器2启动时,1和2都为自己投一票,1发现2的myid(后续配置)大于自身,把自己的票给服务器2,服务器2有2票还是没有半数以上,两者都looking状态,等服务器3来了,重复操作,服务器3就有3票达到半数以上,服务器3就称为leader,并且服务器1,2改为followeing状态,后续服务器启动,following状态的服务器不会将自己的票投给他们,所以服务器3就是最终的leader。2888端口是zk集群内部的端口是leader和follower之间数据同步等操作使用的端口。

j218255的博客 1206

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

上一篇: 大数据时代|核心架构Hadoop入门学习之HDFS,循序渐进求真知
下一篇: 最新版Python入门大合集——干货满满,保证让你收获多多
Java领域指导者
博客等级 码龄7年 404粉丝 265原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值