搭建zookeeper集群

最新推荐文章于 2024-11-15 21:21:05 发布

crj_9527

最新推荐文章于 2024-11-15 21:21:05 发布

阅读量578

点赞数

CC 4.0 BY-SA版权

分类专栏： kafka

本文链接：https://blog.youkuaiyun.com/crj_9527/article/details/50232381

kafka 专栏收录该内容

2 篇文章

订阅专栏

本文详细介绍ZooKeeper集群的安装配置过程，包括环境搭建、配置文件修改及启动测试等关键步骤，帮助读者理解ZooKeeper如何为分布式系统提供一致性服务。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.为什么搭建zookeeper

由于kafka依赖zookeeper，所以在搭建kafka之前必须先搭建zookeeper集群。

2.zookeeper简介

zookeeper是一个为分布式应用提供一致性服务的软件，它是开源的Hadoop项目的一个子项目，并根据google发表的一篇论文来实现的。 
zookeeper为分布式系统提供了高笑且易于使用的协同服务，它可以为分布式应用提供相当多的服务，诸如统一命名服务，配置管理，状态同步和组服务等。
zookeeper接口简单，我们不必过多地纠结在分布式系统编程难于处理的同步和一致性问题上，你可以使用zookeeper提供的现成(off- the-shelf)服务来实现来实现分布式系统额配置管理，组管理，Leader选举等功能。

3.安装配置

zookeeper集群的安装,准备三台服务器db1:192.168.10.155,db2:192.168.10.156,db3:192.168.10.157
1)下载zookeeper
http://ftp.tc.edu.tw/pub/Apache/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6.tar.gz
2)安装zookeeper
先在服务器db1分别执行a-c步骤
a)解压  
tar -zxvf zookeeper-3.4.6.tar.gz
解压完成后在目录~下会发现多出一个目录zookeeper-3.4.6,重新命令为zookeeper，转移目录到opt下：mv -R zookeeper /opt/zookeeper
b）配置
将conf/zoo_sample.cfg拷贝一份命名为zoo.cfg，也放在conf目录下。然后按照如下值修改其中的配置：

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/mnt/hd01/hadoop/zookeeper
# the port at which the clients will connect
clientPort=2181
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#http://zookeeper.apache.org/doc/ ... html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=192.168.10.155:3888:4888
server.2=192.168.10.156:3888:4888
server.3=192.168.10.157:3888:4888

tickTime：这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。

dataDir：顾名思义就是 Zookeeper 保存数据的目录，默认情况下，Zookeeper 将写数据的日志文件也保存在这个目录里。

clientPort：这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。

initLimit：这个配置项是用来配置 Zookeeper 接受客户端（这里所说的客户端不是用户连接 Zookeeper 服务器的客户端，
而是 Zookeeper 服务器集群中连接到 Leader 的 Follower 服务器）初始化连接时最长能忍受多少个心跳时间间隔数。
当已经超过 5个心跳的时间（也就是 tickTime）长度后 Zookeeper 服务器还没有收到客户端的返回信息，那么表明这个客户端连接失败。总的时间长度就是 5*2000=10 秒

syncLimit：这个配置项标识 Leader 与Follower 之间发送消息，请求和应答时间长度，最长不能超过多少个 tickTime 的时间长度，总的时间长度就是2*2000=4 秒

server.A=B：C：D：其中 A 是一个数字，表示这个是第几号服务器；B 是这个服务器的 ip 地址；C 表示的是这个服务器与集群中的 Leader 服务器交换信息的端口；
D 表示的是万一集群中的 Leader 服务器挂了，需要一个端口来重新进行选举，选出一个新的 Leader，而这个端口就是用来执行选举时服务器相互通信的端口。
如果是伪集群的配置方式，由于 B 都是一样，所以不同的 Zookeeper 实例通信端口号不能一样，所以要给它们分配不同的端口号

注意:dataDir,dataLogDir中的wwb是当前登录用户名，data，logs目录开始是不存在，需要使用mkdir命令创建相应的目录。并且在该目录下创建文件myid,serve1,server2,server3该文件内容分别为1,2,3。
针对服务器server2,server3可以将server1复制到相应的目录，不过需要注意dataDir,dataLogDir目录,并且文件myid内容分别为2,3
3)依次启动server1，server2,server3的zookeeper.
/opt/zookeeper/bin/zkServer.sh start,出现类似以下内容
JMX enabled by default
Using config: /home/wwb/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
4) 测试zookeeper是否正常工作，在server1上执行以下命令
[root@db1 zookeeper]# /opt/zookeeper/bin/zkCli.sh -server192.168.10.155:2181
Connecting to localhost:2181
2015-11-10 05:17:56,287 [myid:] - INFO  [main:Environment@100] - Client environment:zookeeper.version=3.4.6-1569965, built on 02/20/2014 09:09 GMT
2015-11-10 05:17:56,290 [myid:] - INFO  [main:Environment@100] - Client environment:host.name=db1
2015-11-10 05:17:56,290 [myid:] - INFO  [main:Environment@100] - Client environment:java.version=1.7.0_45
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.vendor=Oracle Corporation
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.home=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.45.x86_64/jre
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.class.path=/opt/zookeeper/bin/../build/classes:/opt/zookeeper/bin/../build/lib/*.jar:/opt/zookeeper/bin/../lib/slf4j-log4j12-1.6.1.jar:/opt/zookeeper/bin/../lib/slf4j-api-1.6.1.jar:/opt/zookeeper/bin/../lib/netty-3.7.0.Final.jar:/opt/zookeeper/bin/../lib/log4j-1.2.16.jar:/opt/zookeeper/bin/../lib/jline-0.9.94.jar:/opt/zookeeper/bin/../zookeeper-3.4.6.jar:/opt/zookeeper/bin/../src/java/lib/*.jar:/opt/zookeeper/bin/../conf:
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.library.path=/usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.io.tmpdir=/tmp
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:java.compiler=<NA>
2015-11-10 05:17:56,292 [myid:] - INFO  [main:Environment@100] - Client environment:os.name=Linux
2015-11-10 05:17:56,293 [myid:] - INFO  [main:Environment@100] - Client environment:os.arch=amd64
2015-11-10 05:17:56,293 [myid:] - INFO  [main:Environment@100] - Client environment:os.version=2.6.32-358.14.1.el6.x86_64
2015-11-10 05:17:56,293 [myid:] - INFO  [main:Environment@100] - Client environment:user.name=root
2015-11-10 05:17:56,293 [myid:] - INFO  [main:Environment@100] - Client environment:user.home=/root
2015-11-10 05:17:56,293 [myid:] - INFO  [main:Environment@100] - Client environment:user.dir=/opt/zookeeper
2015-11-10 05:17:56,294 [myid:] - INFO  [main:ZooKeeper@438] - Initiating client connection, connectString=localhost:2181 sessionTimeout=30000 watcher=org.apache.zookeeper.ZooKeeperMain$MyWatcher@f0541d
Welcome to ZooKeeper!
2015-11-10 05:17:56,325 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@975] - Opening socket connection to server localhost/0:0:0:0:0:0:0:1:2181. Will not attempt to authenticate using SASL (unknown error)
JLine support is enabled
2015-11-10 05:17:56,333 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@852] - Socket connection established to localhost/0:0:0:0:0:0:0:1:2181, initiating session
[zk: localhost:2181(CONNECTING) 0] 2015-11-10 05:17:56,353 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@1235] - Session establishment complete on server localhost/0:0:0:0:0:0:0:1:2181, sessionid = 0x150f0227a20000e, negotiated timeout = 30000

WATCHER::

WatchedEvent state:SyncConnected type:None path:null

[zk: localhost:2181(CONNECTED) 0]

注意：zookeeper集群时，zookeeper要求半数以上的机器可用，zookeeper才能提供服务。