Component 分布式协调服务 - Zookeeper

本文介绍了ZooKeeper——一款分布式应用程序协调服务,详细解释了其基本原理、安装步骤及使用方法。ZooKeeper通过Leader选举算法确保高可用性,并提供配置维护、域名服务等功能。

介绍

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。
ZooKeeper的目标就是封装好复杂易出错的关键服务,将简单易用的接口和性能高效、功能稳定的系统提供给用户。
ZooKeeper包含一个简单的原语集,提供Java和C的接口。
ZooKeeper代码版本中,提供了分布式独享锁、选举、队列的接口,代码在zookeeper-3.4.3\src\recipes。其中分布锁和队列有Java和C两个版本,选举只有Java版本。

基本原理

ZooKeeper集群由一组Server节点组成,这一组Server节点中存在一个角色为Leader的节点,其他节点都为Follower。当客户端Client连接到ZooKeeper集群,并且执行写请求时,这些请求会被发送到Leader节点上,然后Leader节点上数据变更会同步到集群中其他的Follower节点。

ZooKeeper采用一种称为Leader election的选举算法(也有称做:分布式选举算法-Paxos)的。在整个集群运行过程中,只有一个Leader,其他的都是Follower,如果ZooKeeper集群在运行过程中Leader出了问题,系统会采用该算法重新选出一个Leader,ZooKeeper用于三台以上的服务器集群之中,只要还有超过半数的服务器在线,ZooKeeper就能够正常提供服务,过半,意味着实际能够有效参与选举的节点数量是奇书个数,否者不能有效的过半。

Zookeeper逻辑图如下:

Zookeeper 逻辑图

  1. 客户端可以连接到每个server,每个server的数据完全相同。
  2. 每个follower都和leader有连接,接受leader的数据更新操作。
  3. Server记录事务日志和快照到持久存储。
  4. 大多数server可用,整体服务就可用。
  5. Leader节点在接收到数据变更请求后,首先将变更写入本地磁盘,以作恢复之用。当所有的写请求持久化到磁盘以后,才会将变更应用到内存中。
  6. ZooKeeper使用了一种自定义的原子消息协议,在消息层的这种原子特性,保证了整个协调系统中的节点数据或状态的一致性。Follower基于这种消息协议能够保证本地的ZooKeeper数据与Leader节点同步,然后基于本地的存储来独立地对外提供服务。
  7. 当一个Leader节点发生故障失效时,失败故障是快速响应的,消息层负责重新选择一个Leader,继续作为协调服务集群的中心,处理客户端写请求,并将ZooKeeper协调系统的数据变更同步(广播)到其他的Follower节点。

安装

Zookeeper 下载地址

在这里,我选择了 zookeeper-3.4.6.tar.gz 并安装在了 CentOS7 上,当然,Zookeeper 也有 Windows 版。

# wget http://www.apache.org/dist/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6.tar.gz
# tar -xzvf zookeeper-3.4.6.tar.gz
# cd zookeeper-3.4.6

目录结构

Zookeeper 目录结构

# cd conf
# cp zoo_sample.cfg zoo.cfg
# vim zoo.cfg
  • zoo.cfg
tickTime=2000
initLimit=10
syncLimit=5
clientPort=2181
dataDir=/usr/local/zookeeper/zookeeper-3.4.6/data    #保存数据目录
dataLogDir=/usr/local/zookeeper/zookeeper-3.4.6/log  #保存日志目录
server.1=ip:2888:3888   #ip为服务器的ip
server.2=ip:2888:3888   #ip为服务器的ip
server.3=ip:2888:3888   #ip为服务器的ip

这里的 data 和 log 需要自己创建 mkdir 命令创建

在/usr/local/zookeeper/zookeeper-3.4.6/data目录下创建一个文件:myid

分别在myid上按照配置文件的server.<id>中id的数值,在不同机器上的该文件中填写相应过的值
ip 的myid内容为1
ip 的为2
ip 的为3
ip为服务器的ip 这里对应上面的server.1,server.2,server.3

  • 全局配置

创建一个环境变量ZOOKEEPER_HOME并把该环境变量添加到系统路径:
vim /etc/profile

在export PATH语句前添加两行:

ZOOKEEPER_HOME=/usr/local/zookeeper/zookeeper-3.4.6
PATH=$PATH:$ZOOKEEPER_HOME/bin

并执行 source /etc/profile

zkServer.sh

Zookeeper 的运行依赖 JRE,记得要先装好。

此时安装成功,进行测试:

  1. 进入zookeeper的bin目录,执行./zkServer.sh start进行启动zookeeper
  2. 查看状态 进入bin目录,执行./zkServer.sh status
  3. 停止 进入bin目录,执行./zkServer.sh stop

zkCli.sh

ZooKeeper命令行工具类似于Linux的shell环境,不过功能肯定不及shell啦,但是使用它我们可以简单的对ZooKeeper进行访问,数据创建,数据修改等操作. 使用 zkCli.sh -server 127.0.0.1:2181 连接到 ZooKeeper 服务,连接成功后,系统会输出 ZooKeeper 的相关环境以及配置信息。

命令行工具的一些简单操作如下:

  1. 显示根目录下、文件: ls / 使用 ls 命令来查看当前 ZooKeeper 中所包含的内容
  2. 显示根目录下、文件: ls2 / 查看当前节点数据并能看到更新次数等数据
  3. 创建文件,并设置初始内容: create /zk "test" 创建一个新的 znode节点“ zk ”以及与它关联的字符串
  4. 获取文件内容: get /zk 确认 znode 是否包含我们所创建的字符串
  5. 修改文件内容: set /zk "zkbak" 对 zk 所关联的字符串进行设置
  6. 删除文件: delete /zk 将刚才创建的 znode 删除
  7. 退出客户端: quit
  8. 帮助命令: help

资源

Zookeeper 官网

<think>嗯,我现在需要了解在Spring Boot中如何使用CuratorFramework连接ZooKeeper服务。首先,我得回忆一下ZooKeeper和Curator分别是什么。ZooKeeper是一个分布式协调服务,用于维护配置信息、命名、分布式同步等。而Curator是Netflix开源的一个ZooKeeper客户端库,简化了与ZooKeeper的交互,提供了更高层次的API,还有重试机制等。 那么,在Spring Boot项目中集成CuratorFramework的话,应该怎么做呢?可能首先需要添加相关的依赖。Maven的话,可能需要curator-recipes和curator-framework。另外,Spring Boot可能有自己的starter,不过Curator好像不是Spring官方维护的,所以可能需要手动配置。 接下来,配置ZooKeeper的连接信息,比如地址、端口、会话超时时间等。通常这些配置会放在application.properties或application.yml文件中,然后通过@Value注解注入到Java配置类中。 然后,需要创建一个CuratorFramework的Bean,在配置类中使用@Bean注解,由Spring来管理其生命周期。CuratorFrameworkFactory类应该提供了工厂方法,比如newClient(),传入连接字符串、重试策略等参数。常用的重试策略可能有ExponentialBackoffRetry,允许设置重试次数和间隔。 创建Bean的时候,可能还需要调用start()方法启动客户端,并且确保在应用关闭时调用close()方法。Spring的@Bean可以指定initMethod和destroyMethod,或者在@Bean方法里直接调用start(),返回的实例会被Spring管理关闭。 另外,可能需要处理连接状态的变化,比如监听连接事件,但如果是基本的连接,可能不需要处理这些。不过如果有需要,可以通过CuratorFramework的getConnectionStateListenable().addListener()来添加监听器。 测试连接是否成功的话,可以在应用启动后,通过CuratorFramework实例检查是否连接,比如使用getZookeeperClient().isConnected(),或者尝试执行一些操作,比如创建节点、读取数据等。 可能出现的问题包括依赖版本冲突,比如Curator和ZooKeeper的版本需要兼容。需要查看Curator的官方文档,确认使用的Curator版本对应的ZooKeeper版本。例如,Curator 5.x对应ZooKeeper 3.5.x以上,而如果项目中用的是ZooKeeper 3.4.x,可能需要使用Curator 4.x版本。 另外,配置参数是否正确,比如连接字符串是否正确,超时时间是否足够,防火墙是否开放了ZooKeeper的端口。还有重试策略是否合理,避免因为短暂的网络问题导致连接失败。 总结一下步骤应该是:添加依赖、配置参数、创建CuratorFramework的Bean、在需要的地方注入使用,处理可能的异常和重试,确保连接正常。 可能还需要在Spring Boot的配置类中启用配置属性,比如使用@ConfigurationProperties注解来绑定配置项,这样更规范一些。 然后,编写一个Service类,注入CuratorFramework,在需要的地方调用它的方法,比如create().forPath(),getData().forPath()等,进行节点的操作。同时需要注意异常处理,比如InterruptedException和Exception,Curator的API可能会抛出这些异常,需要适当捕获或抛出。 还有一个考虑点是,CuratorFramework是否需要在Spring Boot启动完成后才进行某些初始化操作,比如使用@EventListener监听ApplicationReadyEvent,确保在应用完全启动后再进行ZooKeeper的操作。 可能还需要考虑连接断开后的恢复机制,虽然Curator本身有重试策略,但需要确认在Spring Boot中如何处理这些情况,是否需要额外的健康检查或重新连接逻辑。 最后,可能需要编写测试用例,使用@SpringBootTest来测试CuratorFramework的连接和操作是否正常,确保集成没有问题。</think>在Spring Boot中使用CuratorFramework连接ZooKeeper的步骤如下: --- ### 1. **添加依赖** 在`pom.xml`中引入Curator和ZooKeeper客户端依赖(注意版本兼容性): ```xml <dependency> <groupId>org.apache.curator</groupId> <artifactId>curator-recipes</artifactId> <version>5.5.0</version> </dependency> <dependency> <groupId>org.apache.zookeeper</groupId> <artifactId>zookeeper</artifactId> <version>3.8.0</version> <exclusions> <exclusion> <groupId>org.slf4j</groupId> <artifactId>slf4j-log4j12</artifactId> </exclusion> </exclusions> </dependency> ``` --- ### 2. **配置参数** 在`application.yml`或`application.properties`中添加配置: ```yaml zookeeper: connect-string: localhost:2181 session-timeout: 5000 connection-timeout: 5000 retry: base-sleep-time: 1000 max-retries: 3 ``` --- ### 3. **创建配置类** 编写Java配置类,初始化`CuratorFramework` Bean: ```java @Configuration @ConfigurationProperties(prefix = "zookeeper") public class ZookeeperConfig { private String connectString; private int sessionTimeout; private int connectionTimeout; private RetryPolicy retryPolicy; @Bean public CuratorFramework curatorFramework() { // 创建重试策略(指数退避) RetryPolicy retryPolicy = new ExponentialBackoffRetry( retry.getBaseSleepTime(), retry.getMaxRetries() ); // 构建Curator客户端 CuratorFramework client = CuratorFrameworkFactory.builder() .connectString(connectString) .sessionTimeoutMs(sessionTimeout) .connectionTimeoutMs(connectionTimeout) .retryPolicy(retryPolicy) .build(); client.start(); // 启动连接 return client; } // Getter/Setter省略(需补充) } ``` --- ### 4. **使用CuratorFramework** 在Service中注入`CuratorFramework`,执行操作: ```java @Service public class ZkService { @Autowired private CuratorFramework curator; // 创建节点 public void createNode(String path, byte[] data) throws Exception { curator.create() .creatingParentsIfNeeded() .forPath(path, data); } // 读取数据 public byte[] getData(String path) throws Exception { return curator.getData().forPath(path); } } ``` --- ### 5. **连接状态监听(可选)** 监听ZooKeeper连接状态变化: ```java @PostConstruct public void init() { curator.getConnectionStateListenable().addListener( (client, state) -> { if (state == ConnectionState.RECONNECTED) { System.out.println("Reconnected to ZooKeeper"); } } ); } ``` --- ### 6. **注意事项** - **版本兼容性**:确保Curator与ZooKeeper版本匹配(如Curator 5.x需ZooKeeper 3.5+)。 - **异常处理**:所有Curator操作需处理`Exception`(如网络中断、节点不存在)。 - **生命周期管理**:Spring会自动关闭`CuratorFramework`,无需手动调用`close()`。 --- ### 示例:健康检查 通过检查连接状态验证ZooKeeper是否正常: ```java @Component public class ZkHealthChecker implements HealthIndicator { @Autowired private CuratorFramework curator; @Override public Health health() { return curator.getZookeeperClient().isConnected() ? Health.up().build() : Health.down().build(); } } ``` --- 通过以上步骤,即可在Spring Boot中高效集成CuratorFramework,实现与ZooKeeper服务的可靠交互。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值