zookeeper搭建集群

基于Zookeeper搭建spark集群 基于Zookeeper搭建spark集群一、前置条件二、Zookeeper集群搭建三、Spark集群搭建 一、前置条件 在搭建集群之前确保linux已安装JDK 三台机器分别为master、slave1、slave2 二、Zookeeper集群搭建 先从官网上下载zookeeper https://zookeeper.apache.org/releases.html 使用rz命令将zookeepe... 阅读详情

zookeeper集群的搭建

(1)准备三台机器

vi  /etc/hosts
192.168.33.201 hadoop1
192.168.33.202 hadoop2
192.168.33.203 hadoop3

设置三个机器的本机免密登录(三台机器配置一样):

ssh-keygen -t rsa   ---一直回车即可
cd /root/.ssh/    ---生成了公钥和私钥
cat id_rsa.pub >> authorized_keys   ---将三台机器的公钥追加到授权文件中,并且分发到三台机器 /root/.ssh/下
more authorized_keys   ---可以查看到里面追加的公钥
ssh hadoop2  --- 测试hadoop1  链接hadoop2

这三台机器是在之前安装好常用软件(jdk)配置好环境变量

vi /etc/profile

export JAVA_HOME =/mnt/jdk-1.8.0_60
export PATH=$PATH:$JAVA_HOME/bin

source /etc/profile

(2)将zookeeper安装包上传到hadoop1的/usr/local中。
lrzsz是一款在linux里可代替ftp上传和下载的程序。
要想使用lrzsz进行上传rz(也可直接鼠标拖拽)和下载sz,则必须安装lrzsz。可以使用yum install lrzsz自动安装,必须有网络。没有网络,可以制作yum本地源。

(3)解压

 tar -zxvf /usr/local/zookeeper-3.4.5.tar.gz
 mv zookeeper-3.4.5  zookeeper

同时拷贝到其他两台机器上
cd /usr/local
scp -r -P 22 remote_username@remote_ip:/usr/local/zookeeper  ./

xshell窗口同时打开三台窗口命令行,一个窗口命令同时在三台机器上执行的方式如下:

xhell工具-》发送键输入到所有会话

(4)修改环境变量

vi /etc/profile
export ZOOKEEPER_HOME=/usr/local/zookeeper
 
export PATH=$PATH:$JAVA_HOME/bin:$ZOOKEEPER_HOME/bin

刷新环境变量
source /etc/profile

注意:3台机器都要修改

(5)修改配置文件

cd /usr/local/zookeeper/conf
cp zoo_sample.cfg zoo.cfg
vi zoo.cfg

添加内容:

dataDir=/usr/local/zookeeper/data  (不能放在临时文件夹中,需新建data文件夹)
dataLogDir=/usr/local/zookeeper/log(新建log文件夹,可不要!!!)

server.1=hadoop1:2888:3888 (主机名, 心跳端口、数据端口)
server.2=hadoop2:2888:3888(都是默认端口)
server.3=hadoop3:2888:3888(2888是leader和follow之间通信,3888是投票选举时用的端口)

注意server.后面的数字必须是1开头增加

创建文件夹

mkdir /usr/local/zookeeper/data
mkdir /usr/local/zookeeper/log

在data文件夹中新建myid文件,myid文件的内容为1(一句话创建:echo 1 > myid)

cd data
echo 1 > myid

添加内容对应的机器值如下:
hadoop1 echo 1 > myid
hadoop2 echo 2 > myid
hadoop3 echo 3 > myid

(6)将三台机器的防火墙关闭掉,service iptables stop ,查看service iptables status

启动,在三个节点上分别都要执行命令

cd /usr/local/zk/bin
zkServer.sh start

启动完了之后,在bin目录下多了一个zookeeper.out


initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/usr/local/zookeeper-3.4.9/data
dataLogDir=/usr/local/zookeeper-3.4.9/datalog
# the port at which the clients will connect
clientPort=2181
server.1=hadoop1:2888:3888
server.2=hadoop2:2888:3888
server.3=hadoop3:2888:3888
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
autopurge.purgeInterval=5
autopurge.snapRetainCount=20

autopurge.purgeInterval=5
autopurge.snapRetainCount=20
上面设置的参数表示:间隔5个小时清理一次,log文件保存20个,snapshot快照文件保存20个。若zookeeper启动时超过设置的文件时,就会执行删除文件的操作。

Zookeeper集群搭建和Kafka集群的搭建 Zookeeper!!! 一、Zookeeper集群搭建步骤 0)集群规划 在hadoop01、hadoop02和hadoop03三个节点上部署Zookeeper。 1)解压安装 (1)解压zookeeper安装包到/home/hadoop/insatll/目录下 [hadoop@hadoop01 tools]$ tar -zxvf zookeeper-3.4.10.tar.gz -C /home... 阅读详情

相关推荐

zookeeper 集群搭建

输入 1 :wq (保存并退出)输入 2 :wq (保存并退出)输入 3 :wq (保存并退出):wq (保存并退出):wq (保存并退出):wq (保存并退出):wq (保存并退出):wq (保存并退出):wq (保存并退出)

段子手168的博客 858

zookeeper错误码以及常见问题

Zookeeper C API 错误码介绍 ZOO_ERRORS ZOK  正常返回 ZSYSTEMERROR  系统或服务器端错误(System and server-side errors),服务器不会抛出该错误,该错误也只是用来标识错误范围的,即大于该错误值,且小于 ZAPIERROR 都是系统错误。 ZRUNTIMEINCONSISTE...

MyObject-C的专栏 1万+

适合初学者的ROS机器人教程(1): Ubuntu下ROS创建自己的包和使用github下载的包

ROS如何创建自己的包 1. 首先创建catkin工作空间(如果你以及有了请忽略) $ mkdir catkin_ws # 创建一个文件夹里面计划放我们的项目,ws是workspace的缩写 $ cd catkin_ws # 将当前工作文件夹切换到catkin_ws这个文件夹 ~/catkin_ws$ catkin_make # 执行catkin_make创建一ROS项目 此时你的catkin_...

@司南牧|知乎|博客|易懂教程|李韬 3243

Zookeeper集群搭建

所有的提议(proposal)都在被提出的时候加上了zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一个新的epoch,标识当前属于那个leader的统治时期。server.A=B:C:D中的A是一个数字,表示这个是第几号服务器,B是这个服务器的IP地址,C第一个端口用来集群成员的信息交换,表示这个服务器与集群中的leader服务器交换信息的端口,D是在leader挂掉时专门用来进行选举leader所用的端口。

Free雅轩的博客 5172

手把手教你解锁TI MSPM0G3507开发板(2025新版,附XDS110接线图)

本文详细解析了2025版TI MSPM0G3507开发板的解锁方法,针对新版硬件中BSL引脚的电路设计变化提供了精准接线方案和UniFlash软件配置步骤。通过实测数据和专业指导,帮助开发者解决芯片锁定问题,确保调试接口正常响应。

weixin_42696271的博客 807

PSINS惯性系初始对准与代码解读

本文参考“摇摆基座上基于信息的捷联惯导粗对准研究”(秦永元),以及“严恭敏博士后研究报告”,详细解读并推导了静基座惯性系对准算法,并与PSINS代码进行对照解读。

u011012050的博客 6751

zookeeper集群搭建超详细教程

1.搭建Zookeeper分布式集群环境,使用三台虚拟机。 ①上传zookeeper的软件包到家目录下,利用tar解压 ②为zookeeper-3.4.6软件包重命名 ③进入/etc/profile.d,对hadoop.sh进行环境变量的添加,wq保存退出后,cat可以查看配置文件的内容,source执行环境变量,为后期启动zookeeper做准备

m0_64264849的博客 2026

OpenClaw + Ollama 本地大模型部署教程:彻底告别Token焦虑

OpenClaw + Ollama 本地大模型部署教程:彻底告别Token焦虑

leaning_java的博客 1226

《Zookeeper》第一篇 集群环境搭建

简单通俗易懂的Zookeeper集群搭建

入坑太深起不来 1897

Claude Code+Cursor+Claude 4三剑合璧!5步搞定Magentic-UI的OAuth2.0集成,开发效率飙升500%,新手秒变全栈工程师

本文详细介绍了如何利用Claude Code、Cursor和Claude 4三款AI工具高效集成Magentic-UI的OAuth2.0认证系统。通过5个步骤的实战演练,开发者可快速完成从环境搭建、项目分析、代码生成到前端集成的全过程,显著提升开发效率。文章还提供了JWT令牌管理、安全配置及常见问题解决方案。

weixin_29234509的博客 453

Python高效转换病理图像:从mrxs到SVS的完整实践指南

本文提供了使用Python将数字病理切片从mrxs格式高效转换为SVS格式的完整实践指南。针对mrxs格式兼容性差的问题,文章详细解析了基于openslide和tifffile库的核心转换流程,并重点分享了应对大内存消耗的优化方案与流式处理技巧,确保转换后的SVS文件保留多分辨率金字塔结构,兼容主流病理分析工具。

weixin_29051811的博客 547

ZooKeeper 集群的详细部署

ZooKeeper 集群的详细部署

slb190623的博客 8055

STM32CubeIDE(CUBE-MX hal库)----RTC时钟断电保持与时间校准实战

本文详细介绍了在STM32CubeIDE中使用CUBE-MX和HAL库实现RTC时钟断电保持与时间校准的实战方法。通过硬件配置、后备寄存器(BKP)操作及软件校准策略,确保嵌入式设备在断电后仍能保持准确时间,适用于智能电表、环境监测等物联网应用场景。

weixin_29189373的博客 216

zookeeper集群搭建(详细步骤)

zookeeper集群搭建 一、集群规划 安装三台虚拟机,IP地址、主机名设置如下 IP 主机名 软件 192.168.1.66 SQG JDK\zookeeper 192.168.1.2 hadoop1 JDK\zookeeper 192.168.1.3 hadoop2 JDK\zookeeper 二、环境准备(以下是三台虚拟机都需操作) 1、 关闭防火墙 [root@localhost ~]# systemctl stop firewalld //停止firewalld

SQG_L的博客 3万+

智能门禁:AI Agent的访客意图识别

随着人工智能技术的飞速发展,智能门禁系统已经成为现代安全管理的关键环节。本文深入探讨了AI Agent在访客意图识别中的应用,通过详细的分析和实例讲解,揭示了智能门禁系统的核心工作原理、算法实现及其在安全领域的重要作用。文章结构清晰,逻辑严谨,旨在为广大技术爱好者提供一次全面的技术盛宴。在当今社会,门禁系统已成为各类建筑和机构不可或缺的安全设施。随着信息安全意识的增强,传统门禁系统的局限性逐渐显现。例如,在访客管理方面,传统方法通常依赖于人工登记、身份验证等手段,不仅效率低下,而且容易出现漏洞。

AI架构师小马 706

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

搭建zookeeper集群,并监控集群状态

配置文件的逐行详细解释,帮助你理解每个参数的作用和配置逻辑。:节点无法加入集群,日志报错。

yyeare的博客 1353

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

ZooKeeper :搭建ZooKeeper集群

ZooKeeper :搭建ZooKeeper集群 本文将介绍如何搭建ZooKeeper集群,博主准备搭建由三个ZooKeeper节点组成的集群,先需要创建三台虚拟机(VirtualBox可以复制虚拟机),系统为CentOS7,每台虚拟机配置相同,内存2G以及磁盘8G。如何创建虚拟机请参考这篇博客: VirtualBox安装CentOS7 还需要使用XShell来连接虚拟机,毕竟在VirtualBox上操作虚拟机比较麻烦。先使用VirtualBox进入虚拟机,查询该虚拟机的IP地址(使用ip addr或者

kaven 2940

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

ZooKeeper集群搭建

系列文章目录 提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加 例如:第一章 Python 机器学习入门之pandas的使用 提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 系列文章目录 前言 一、pandas是什么? 二、使用步骤 1.引入库 2.读入数据 总结 前言 提示:这里可以添加本文要记录的大概内容: 例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,很多人都开启了学习机器学习,本文就介绍了机器学习..

Ele_sorriu的博客 2万+

zookeeper集群搭建

搭建前提 1.需要安装好jdk 2.检测集群时间是否同步 3.检测防火墙是否关闭 4.检测主机 ip映射有没有配置 步骤: 第一步: 将安装包解压 tar -zxvf zookeeper-3.4.5.tar.gz mv zookeeper-3.4.5 zookeeper(更名可有可无,我这里更名是为了后面路径写起来方便) 第二步: 修改环境变量(注意:有几台服务器修改几台) vi /etc/profile.d/zookeeper.sh(在profile.d里创建zookeeper.sh并编辑)

qq_21853321的博客 1万+

基于zookeeper搭建kafka集群

Kafka 是一款开源的分布式流处理平台,最初由 LinkedIn 开发,后由 Apache 基金会维护。它被设计用于高吞吐、可扩展的实时数据管道和流处理场景。Kafka 的核心功能包括发布和订阅消息流、持久化存储数据以及实时处理数据流。其架构基于生产者(Producer)、消费者(Consumer)、主题(Topic)和分区(Partition)等概念,支持水平扩展和高容错性。Kafka 广泛应用于日志收集、消息系统、实时分析和事件溯源等场景,是现代大数据生态系统中不可或缺的组件之一。

muxia_jhy的博客 1755

Linux之Zookeeper集群搭建

Zookeeper是一个高效的分布式协调服务,可以提供配置信息管理、命名、分布式同步、集群管理、数据库切换等服务。它不适合用来存储大量信息,可以用来存储一些配置、发布与订阅等少量信息。Hadoop、Storm、消息中间件、RPC服务框架、分布式数据库同步系统,这些都是Zookeeper的应用场景。对 zookeeper 集群进行了这样三种角色划分:leader、follower、observer: - 领导者(leader):负责进行投票的发起和决议,更新系统状态。 - 跟随者(follower):用于接

月生的静心苑 1607

Zookeeper搭建集群

Zookeeper集群环境搭建 1.每台服务器节点上安装jdk1.8环境 使用java -version命令测试 java -version 2.每台服务器节点上安装Zookeeper 1.下载并且安装zookeeper安装包 wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.4.10/zookeep...

qq_39380737的博客 2654

Zookeeper+ActiveMQ集群搭建

Zookeeper+ActiveMQ集群搭建 搭建三台虚拟机安装centos7。要提前安装好jdk环境 1.环境准备,搭建三台虚拟机ip分别是 192.168.192.130 192.168.192.131 192.168.192.134   Zookeeper环境准备 主机ip 消息端口 通信端口 节点目录/u...

好好学电脑 2868

Zookeeper 集群搭建

文章目录Zookeeper 集群搭建环境准备依赖集群搭建一、安装二、配置相关一、常用命令 Zookeeper 集群搭建 环境准备 系统:CentOS 7.4 服务器:192.168.16.150、192.168.16.151、192.168.16.152 安装包:zookeeper-3.4.10.tar.gz 依赖 Java 集群搭建 一、安装 # 下载 Zookeeper $ cd /opt $ wget http://apache.mirror.cdnetworks.com/zookeeper/

liouwb 234

zookeeper集群的搭建

source /usr/local/apache-zookeeper-3.8.3-bin/bin/zkServer.sh start是在远程服务器上执行的命令,它启动Zookeeper服务。我记得之前有几种方法可以干预节点的选取,我忘了,目前好的方法是启动的时候主节点放在n+1/2的位置....但是启动的时候挂掉一个就完蛋了,目前就这样,重心不在这里,睡觉。并且 违背我的本意,本意是主节点是1003 选举机制 是 1002 启动达到2/1,所以还需要设置主节点,有可能涉及到选举机制的改变。

m0_72318572的博客 1167
上一篇: zookeeper数据迁移
下一篇: Kafka集群搭建
牧竹子
博客等级 码龄17年 572粉丝 233原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值