ZooKeeper
一、初始ZooKeeper
Zookeeper 是 Apache的一个项目,并且是一个树形目录服务,简称zk。
Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。
Zookeeper 提供的主要功能包括:
配置管理
分布式锁
集群管理
二、ZooKeeper命令操作
2.1 Zookeeper数据模型
ZooKeeper 是一个树形目录服务,其数据模型和文件系统目录树很类似,拥有一个层次化结构。这里面的每一个节点都被称为: ZNode,每个节点上都会保存自己的数据和节点信息。节点可以拥有子节点,同时也允许少量(1MB)数据存储在该节点之下。
节点可以分为四大类:
PERSISTENT 持久化节点
EPHEMERAL 临时节点 :-e
PERSISTENT_SEQUENTIAL 持久化顺序节点 :-s
EPHEMERAL_SEQUENTIAL 临时顺序节点 :-es
持久化节点是不删除可以永久保存的,但是临时节点在当前会话结束之后就会自动删除。
顺序节点会按照顺序节点创建的先后顺序为节点赋值,如此时要建立两个顺序节点,名分别为node1、node2,呢么创建出来的节点名为node100000001和node200000002,也就是会在名字后面加上一段有顺序的数字。
2.2 ZooKeeper 服务端常用命令
启动 ZooKeeper 服务:
./zkServer.sh start
查看 ZooKeeper 服务状态:
./zkServer.sh status
停止 ZooKeeper 服务:
./zkServer.sh stop
重启 ZooKeeper 服务:
./zkServer.sh restart
2.3 ZooKeeper 客户端常用命令
(1)连接ZooKeeper 服务器
./zkCli.sh –server ip:port
如果是服务端就在本机上,则只需./zkCli.sh就可以连接上
(2)断开连接
quit
(3)显示指定目录下节点
ls 目录
(4)创建节点
create /节点path value
(5)获取节点值
get /节点path
(6)设置节点值
set /节点path value
(7)删除单个节点
delete /节点path(如果该节点还有子节点会报错)
(8)删除带有子节点的节点
deleteall /节点path
(9)创建临时节点
create -e /节点path value
(10)创建顺序节点
create -s /节点path value
(11)查询节点详细信息
ls –s /节点path
该命令返回节点的信息如下
czxid:节点被创建的事务ID
ctime: 创建时间
mzxid: 最后一次被更新的事务ID
mtime: 修改时间
pzxid:子节点列表最后一次被更新的事务ID
cversion:子节点的版本号
dataversion:数据版本号
aclversion:权限版本号
ephemeralOwner:用于临时节点,代表临时节点的事务ID,如果为持久节点则为0
dataLength:节点存储的数据的长度
numChildren:当前节点的子节点个数
三、Zookeeper JavaAPI操作
常见的ZooKeeper Java API :
原生Java API
ZkClient
Curator
这里介绍Curator,这是Apache ZooKeeper 的java客户端库
需要首先导入Maven依赖
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>4.0.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>4.0.0</version>
</dependency>
3.1建立连接
有两种建立连接的方法
方法1:CuratorFrameworkFactory的newClient方法。该方法是一个重载方法,一般需要四个参数,只有第一个和第四个参数是必须的,如果不传这两个参数,会设置默认值。
connectString:连接字符串。zk server 地址和端口,传入的是一个字符串形式,如果是要构建集群的话,两个地址端口之间用逗号隔开。如"192.168.56.10:2181,192.168.56.11:2181"
sessionTimeoutMs:会话超时时间,单位ms,代表如果设定时间没有会话的话会自动断开连接
connectionTimeoutMs :连接超时时间,单位ms,当构建连接超过了这个时间就会根据第四个参数重试策略进行后续选择
retryPolicy :未能顺利连接成功的重试策略
RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000,10);
CuratorFramework client = CuratorFrameworkFactory.newClient("192.168.56.10:2181",
60 * 1000, 15 * 1000, retryPolicy);
第二种方法是CuratorFrameworkFactory的builder方法,可以通过链式操作设置相关的参数,然后构建出连接。
client = CuratorFrameworkFactory.builder()
.connectString("192.168.56.10:2181")
.sessionTimeoutMs(60 * 1000)
.connectionTimeoutMs(15 * 1000)
.retryPolicy(retryPolicy)
.build();
两种方法都可以获取连接,但是获取连接之后需要开启连接。
client.start();
3.2添加节点
//如果创建节点,没有指定存储的数据,则默认将当前客户端的ip作为数据存储
String path = client.create().forPath("/a1");
//指定存储数据,传入的是byte[]
String path = client.create().forPath("/a2", "Hello World".getBytes());
//使用withMode指定存储的节点类型,默认是持久化节点,传入的参数是枚举
String path = client.create().withMode(CreateMode.EPHEMERAL).forPath("/a3");
//创建多级节点
//creatingParentsIfNeeded():如果父节点不存在,则创建父节点
String path = client.create().creatingParentsIfNeeded().forPath("/a4/b1");
3.3删除节点
//删除单个节点
client.delete().forPath("/a1");
// 删除带有子节点的节点
client.delete().deletingChildrenIfNeeded().forPath("/a4");
//必须成功的删除
client.delete().guaranteed().forPath("/a2");
//回调
client.delete().guaranteed().inBackground(new BackgroundCallback(){
@Override
public void processResult(CuratorFramework client, CuratorEvent event) throws Exception {
System.out.println(event);
}
}).forPath("/a1");
3.4修改节点
//直接进行修改
client.setData().forPath("/a1", "hh".getBytes());
//先查出当前节点数据的版本,在修改,避免进行了无效的修改
Stat status = new Stat();
client.getData().storingStatIn(status).forPath("/a1");
int version = status.getVersion();
System.out.println(version);
client.setData().withVersion(version).forPath("/a1", "heihei".getBytes());
3.5查询节点
//查询节点数据
byte[] data = client.getData().forPath("/a1");
// 查询子节点
List<String> path = client.getChildren().forPath("/");
//查询节点状态信息storingStatIn,storingStatIn方法会把详细信息保存成Stat这个类的Bean,所以需要创建这样一个对象
client.getData().storingStatIn(status).forPath("/a1");
3.6Watch事件监听
Watch事件监听
ZooKeeper 允许用户在指定节点上注册一些Watcher,并且在一些特定事件触发的时候,ZooKeeper 服务端会将事件通知到感兴趣的客户端上去,该机制是 ZooKeeper 实现分布式协调服务的重要特性。
ZooKeeper 中引入了Watcher机制来实现了发布/订阅功能能,能够让多个订阅者同时监听某一个对象,当一个对象自身状态变化时,会通知所有订阅者。
ZooKeeper 原生支持通过注册Watcher来进行事件监听,但是其使用并不是特别方便
需要开发人员自己反复注册Watcher,比较繁琐。
Curator引入了 Cache 来实现对 ZooKeeper 服务端事件的监听。
ZooKeeper提供了三种Watcher:
NodeCache : 只是监听某一个特定的节点
PathChildrenCache : 监控一个ZNode的子节点.
TreeCache : 可以监控整个树上的所有节点,类似于PathChildrenCache和NodeCache的组合
下面给出NodeCache的代码例子,其余两个几乎相同
//创建NodeCache对象
final NodeCache nodeCache = new NodeCache(client,"/a1");
//.注册监听
nodeCache.getListenable().addListener(new NodeCacheListener() {
@Override
public void nodeChanged() throws Exception {
//获取修改节点后的数据
byte[] data = nodeCache.getCurrentData().getData();
System.out.println(new String(data));
} });
//开启监听.如果设置为true,则开启监听是,加载缓冲数据
nodeCache.start(true);
3.7分布式锁实现
在我们进行单机应用开发,涉及并发同步的时候,我们往往采用synchronized或者Lock的方式来解决多线程间的代码同步问题,这时多线程的运行都是在同一个JVM之下,没有任何问题。
但当我们的应用是分布式集群工作的情况下,属于多JVM下的工作环境,跨JVM之间已经无法通过多线程的锁解决同步问题。那么就需要一种更加高级的锁机制,来处理种跨机器的进程之间的数据同步问题——这就是分布式锁。
目前分布式锁有三种主流方法实现
(1)基于缓存实现的
(2)ZooKeeper实现
(3)数据库层面实现(乐观锁、悲观锁)
ZooKeeper分布式锁原理
核心思想:当客户端要获取锁,则创建节点,使用完锁,则删除该节点。
1.客户端获取锁时,在lock节点下创建临时顺序节点。
2.然后获取lock下面的所有子节点,客户端获取到所有的子节点之后,如果发现自己创建的子节点序号最小,那么就认为该客户端获取到了锁。使用完锁后,将该节点删除。
3.如果发现自己创建的节点并非lock所有子节点中最小的,说明自己还没有获取到锁,此时客户端需要找到比自己小的那个节点,同时对其注册事件监听器,监听删除事件。
4.如果发现比自己小的那个节点被删除,则客户端的Watcher会收到相应通知,此时再次判断自己创建的节点是否是lock子节点中序号最小的,如果是则获取到了锁,如果不是则重复以上步骤继续获取到比自己小的一个节点
并注册监听。
在Curator中有五种锁方案:
InterProcessSemaphoreMutex:分布式排它锁(非可重入锁)
InterProcessMutex:分布式可重入排它锁
InterProcessReadWriteLock:分布式读写锁
InterProcessMultiLock:将多个锁作为单个实体管理的容器
InterProcessSemaphoreV2:共享信号量