zookeeper完全分布式集群搭建-zookeeper-3.4.6

Mac系统下,Hadoop 2.6.2 + ZooKeeper 3.4.6 + HBase 1.1.5 完全分布式环境搭建 简介         HBase是Apache Hadoop的数据库,能够对大数据提供随机、实时的读写访问功能,具有开源、分布式、可扩展及面向列存储的特点。HBase是由Chang等人基于Google的Bigtable开发而成的。HBase的目标是存储并处理大型的数据,更具体来说是只需要使用普通的硬件配置即可处理由成千上万的行和列组成的大数据。         HBase是一个开源的、分布 阅读详情

之前在学习hadoop,spark的过程中,包括接下来的kafka,zookeeper用到的地方不少,特此记录zookeeper集群搭建过程。


版本:zookeeper-3.4.6


环境:

VM搭建的三个虚拟机,均采用centos-6.8-64.iso

机器IP与名称对应关系如下:

192.168.152.192       master

192.168.152.193       slave1

192.168.152.194       slave2


1.    安装JDK,每台机器都要安装,请自行安装。


2.    先在一台机器上配置好相关文件再远程复制到其他机器上,期间用到SSH无密码互相访问,可以参考SSH无密码互相访问。

2.1  在master机器上进行如下操作:

[root@master] # mkdir /home/zookeeper

[root@master] # cd /home/master

[root@master] # wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6.tar.gz

[root@master] # tar zxvf zookeeper-3.4.6.tar.gz -C /home/zookeeper

[root@master] # cd ../zookeeper

[root@master] # mkdir zkdata

[root@master] # touch zkdata/myid       #用于存储每个机器的标志

[root@master] # mkdir zkdatalog           #日志目录

进入zookeeper-3.4.6目录的conf目录下

[root@master] # cd zookeeper-3.4.6/conf

复制一份样本配置文件

[root@master] # cp zoo_sample.cfg zoo.cfg

[root@master] # vim zoo.cfg

修改以下内容:

tickTime=2000      #单位毫秒,服务器之间或者客户端与服务器之间的心跳间隔

initLimit=10           #初始化Follower最长时间:10 * 2000 ms

syncLimit=5          #Leader与Follower之间发送消息请求和应答时间长度:5 * 2000 ms

dataDir=/home/zookeeper/zkdata               #日志存储路径

dataLogDir=/home/zookeeper/zkdatalog    #事务日志存储路径

clientPort=12181                                         #客户端端口

server.1=192.168.152.192:12888:13888    #server后面的1表示zookeeper集群间的标志,可自定义

server.2=192.168.152.193:12888:13888    #server后面的2表示zookeeper集群间的标志,可自定义

server.3=192.168.152.194:12888:13888    #server后面的3表示zookeeper集群间的标志,可自定义

autopurge.snapRetainCount=15                 #每次清除日志后保留的文件数目

autopurge.purgeInterval=1                          #清除日志频率,单位小时

退出保存    :wq

因为本机地址为192.168.152.192所以把"1"写进/home/zookeeper/zkdata/myid文件里

[root@master] # echo "1" > /home/zookeeper/zkdata/myid

至此master机器上配置完毕,把配置好的zookeeper-3.4.6目录远程复制到slave1和slave2即可


2.2   切换到slave1,先创建必要的目录和文件

[root@slave1] # mkdir /home/zookeeper

[root@slave1] # mkdir /home/zookeeper/zkdata

[root@slave1] # touch /home/zookeeper/zkdata/myid

[root@slave1] # mkdir /home/zookeeper/zkdatalog

[root@slave1] # echo "2" > /home/zookeeper/zkdata/myid


2.3   切换到slave2,先创建必要的目录和文件

[root@slave2] # mkdir /home/zookeeper

[root@slave2] # mkdir /home/zookeeper/zkdata

[root@slave2] # touch /home/zookeeper/zkdata/myid

[root@slave2] # mkdir /home/zookeeper/zkdatalog

[root@slave2] # echo "3" > /home/zookeeper/zkdata/myid


2.4   回到master机器上实施远程复制命令

[root@master] # scp -r /home/zookeeper/zookeeper-3.4.6 slave1:/home/zookeeper

[root@master] # scp -r /home/zookeeper/zookeeper-3.4.6 slave2:/home/zookeeper


3    在三台机器上分别启动zkServer.sh脚本

[root@master] # cd /home/zookeeper/zookeeper-3.4.6/bin

[root@master] # ./zkServer.sh start

[root@slave1] # cd /home/zookeeper/zookeeper-3.4.6/bin

[root@slave1] # ./zkServer.sh start

[root@slave2] # cd /home/zookeeper/zookeeper-3.4.6/bin

[root@slave2] # ./zkServer.sh start

用zkServer.sh status查看状态如下格式

------------master------------

[root@master] #./zkServer.sh status

JMX enabled by default

Using config: /home/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: follower

------------slave1------------

[root@slave1] #./zkServer.sh status

JMX enabled by default

Using config: /home/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: leader

------------slave2------------

[root@slave2] #./zkServer.sh status

JMX enabled by default

Using config: /home/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: follower


zookeeper集群每次启动时会根据算法自动选举出一个leader,当某一个机器挂了,只要存活机器数目超过一半就可以保证集群正常运行。

搭建完毕

hbase完全分布式环境搭建 1、环境准备 linux系统:centos6.6 java环境: jdk1.8.0_144 hadoop环境:hadoop-2.4.1 zookeeper环境:zookeeper-3.4.6 如果有环境准备问题,请参考下面文章 linux环境:点击打开链接 hadoop搭建:点击打开链接 zookeeper搭建:点击打开链接 2、上传hbase安装包 3、解压 tar -zx... 阅读详情

相关推荐

Hadoop集群的完整搭建(Hadoop完全分布式+ZooKeeper+Mysql+Hive+Hbase完全分布式+Spark完全分布式)

Hadoop集群的完整搭建准备工作网络环境的配置修改网关、IP配置映射、主机名重启网络服务,测试ssh的配置jdk的安装Hadoop完全分布式的安装准备工作修改配置文件slaveshadoop-env.shyarn-env.shcore-site.xmlhdfs-site.xmlmapred-site.xmlyarn-site.xml分发到其他节点测试安装Zookeeper准备工作修改配置文件分发即修改文件测试 准备工作 网络环境的配置 修改网关、IP 打开要修改的文件(最后一个文件名可能每个人的不一样)

HR的博客 3102

搭建Zookeeper完全分布式集群(CentOS 9 )

ZooKeeper是一个开源的分布式协调服务,它为分布式应用提供了高效且可靠的分布式协调服务,并且是分布式应用保证数据一致性的解决方案。 本文主要介绍ZooKeeper的完全分布式集群搭建、集群服务管理脚本的编写、以及常见问题的解决办法。

tangyi2008的专栏 3931

spark集群搭建(完全分布式)

说明说明1、其余的见前几篇博客,本文基于之前安装的集群安装spark,安装的节点如下(标红的为本次安装):机器 安装软件 进程 focuson1 zookeeper;hadoop namenode;hadoop DataNode;hbase master;hbase regionrerver;spark master;spark worker JournalNode; DataNode;...

focuson_的博客 1万+

zookeeper3.4.6部署(集群模式)最全保姆级教程

Zookeeper 分布式服务框架是 Apache Hadoop 的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。本文将从使用者角度详细介绍 Zookeeper 的安装和配置文件中各个配置项的意义,以及分析 Zookeeper 的典型的应用场景(配置文件的管理、集群管理、同步锁、Leader 选举、队列管理等),用 Java 实现它们并给出示例代码。系统环境:CentOS 7集群环境: 虚拟机。

diqijiederizi的博客 1040

dubbo spring zookeeper分布式集群搭建完整例子

使用springMVC + mysql +dubbo搭建的一个分布式简单例子,数据库大家可以自己创建一个,该用例可以直接运行,使用tomcat服务器运行即可

从BIOS到路由器:深入拆解SPI NOR Flash的硬件连接与‘芯片内执行’(XIP)奥秘

本文深入解析SPI NOR Flash的硬件连接与‘芯片内执行’(XIP)技术,从BIOS到路由器的应用场景出发,详细介绍了其架构精髓、典型连接方案、时序设计及性能优化方法。通过实际案例和参数对比,帮助开发者掌握NOR Flash在嵌入式系统中的关键作用与设计技巧,提升电路设计效率与可靠性。

weixin_30522183的博客 492

Zookeeper-3.4.6 单机安装

1、准备linux服务器(192.168.127.137)用于安装zk 使用vim修改/etc/hosts文件,添加 # zookeeper servers 192.168.127.137 zk-server 2、下载zookeeper-3.4.6 wget http://apache.fayea.com/zookeeper/zooke

天灾狂骨 2134

第18届全国大学生智能汽车竞赛四轮车开源讲解【2.5】-- 图像处理实战:从二值化到边缘检测的工程优化

本文深入讲解了第18届全国大学生智能汽车竞赛四轮车开源项目中图像处理的核心实战技术。文章聚焦于二值化与边缘检测两大关键环节,详细对比了大津法与索贝尔算子的工程应用与优化策略,并分享了遮光、偏振片等物理抗干扰技巧,旨在帮助参赛者构建稳定高效的图像预处理流水线,为赛道识别奠定坚实基础。

weixin_29279047的博客 100

Centos7下安装zookeeper以及配置文件详解

先去官网下载zookeeper,这里以3.46版本为例[root@bogon software]# wget http://mirrors.hust.edu.cn/apache/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6.tar.gz --2017-06-13 07:19:41-- http://mirrors.hust.edu.cn/apache/zook

路漫漫,水迢迢 5035

HFSS的边界条件与激励方式

在电磁场理论学习中我们知道,电磁场问题的求解都归结于麦克斯韦(Maxwell)方程组的求解,在HFSS中波动方程的求解同样是由微分形式的麦克斯韦方程推导出来的。而边界条件定义了求解区域的边界以及不同物体交界处的电磁场特性,是求解麦克斯韦方程的基础。 只有在假定场矢量是单值、有界、并且沿空间连续分布的前提下,微分形式的麦克斯韦方程组才是有效的;而在求解区域的边界,不同介质的交界处和场源处,场矢量是不连续的,那么场的导数也就失去了意义。 边界条件就是定义跨越不连续边界处的电磁场特性,因此,正确地理解、定义并

ASH_GUARDIAN的博客 1万+

AI安全护栏评测:TrustedExecBench如何量化评估大模型防护能力

在人工智能和机器学习领域,模型安全对齐是确保AI系统可靠、可控的核心技术。其原理是通过设计安全机制(即“护栏”)来约束模型行为,防止生成有害、偏见或越界内容。这项技术的核心价值在于平衡AI能力与风险管控,是可信AI部署的基石。应用场景广泛覆盖内容审核、对话系统、代码生成等需要人机交互的领域。本文聚焦的TrustedExecBench项目,正是针对“护栏”性能量化评估这一痛点,提供了一个标准化、自动化的开源评测框架。该工具通过构建多维度的恶意测试套件,并引入基于模型的动态评判机制,能够系统性地检验大语言模型在

weixin_42525428的博客 378

zookeeper安装部署 zookeeper都需要修改

安装前需要安装好jdk 检测集群时间是否同步 检测防火墙是否关闭 检测主机 ip映射有没有配置 ##下载安装包、解压 tar -zxvf zookeeper-3.4.5.tar.gz mv zookeeper-3.4.5 zookeeper ##修改环境变量(注意:3台zookeeper都需要修改) vi /etc/profile export ZOOKEEPER_HOME=/export/servers/zookeeper-3.4.5-cdh5.14.0 export PATH=$PATH:$ZOO

Maynor的博客 3478

Arduino与震动马达模块握手

震动马达模块采用采用高品质手机震动马达,适用于震动感互动产品的制作,可穿戴智能设备震动提醒,适合作为非可听指示器的小型振动马达。当输入为高电平时电动机会震动,就像你的静音模式的手机一样。

vor234的博客 5847

CentOS6.6 zookeeper完全集群搭建

CentOS6.6 zookeeper完全集群搭建 centos6.6搭建zookeeper-3.4.6完全分布式环境 转载 2015-06-28 22:14:17 标签:it 为了搭建HBase完全分布式环境,前提就是搭建好zookeeper和Hadoop环境,这篇文章介绍zookeeper环境搭建,另外俩篇博文分别介绍Ha...

weixin_34146410的博客 71

【红外技术】DDE算法:HE在红外图像可视化上的应用(附源码)

并且数据一般是以 8 的整数倍的位宽在电子系统中应用,因此大多数的显示器的显示位宽为 8bit,共 256 个灰阶。为了使红外图像可视化,因此需要一种“数据压缩”技术,还需要既可能的不丢失原始图像信息。HE后的图像直方图分布比较均匀离散,图像对比度好。但是HE算法只是适用某些图像,它是将灰度集中区域进行拉伸得到,也会放大该集中区域的噪声,它是一种“不公平”的映射。以下是红外细节增强算法的演示,很明显右边的图像,展现了更多的图像细节,对于小目标的观测非常友好。文章已于2019-12-02修改。

sunwindl91181的博客 911

Exchange Server 2013 运维系列——邮箱配额设置(管理中心)

邮箱配额需要设置三个参数: 1、发出警告限制:表示在向用户发出警告之前的最大存储限制。如果邮箱大小达到或超过指定值,Exchange 将向邮箱用户发送警告消息。 2、禁止发送限制:表示邮箱的“禁止发送”限制。如果邮箱大小达到或超过指定的限制,Exchange 将阻止邮箱用户发送新邮件,并显示一条描述性错误消息。 3、禁止发送和接收限制:表示此邮箱的“禁止发送和接收”限制。如果邮箱大小

白昼的技术专栏 1万+

zookeeper完全分布式安装

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

IT晓白 336

CAN总线入门(硬件部分)

这篇博客讲述CAN总线入门知识。

记得诚 1万+

【实验】Hadoop-2.7.2+zookeeper-3.4.6完全分布式环境搭建(HDFS、YARN HA)转载

Hadoop-2.7.2+Zookeeper-3.4.6完全分布式环境搭建 一.版本 组件名 版本 说明 JRE java version "1.7.0_67"Java™ SE Runtime Environment (build 1.7.0_67-b01)Java HotSpot™ 64-...

努力努力再努力博客 309

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

【实验】Hadoop-2.7.2+zookeeper-3.4.6完全分布式环境搭建(HDFS、YARN HA)

Hadoop-2.7.2+Zookeeper-3.4.6完全分布式环境搭建 一.版本 组件名 版本 说明 JRE java version "1.7.0_67"Java™ SE Runtime Environment (build 1.7.0_67-b01)Java HotSpot™ 64-Bit Server VM (build 24.65-b04, mixed mode) ...

qq_37283909的博客 416

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

上一篇: spark2.1.0完全分布式集群搭建-hadoop2.7.3
下一篇: kafka完全分布式集群搭建-kafka_2.11-0.9.0.1
sand_clock
博客等级 码龄11年 66粉丝 89原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值