
大数据 zookeeper
L-Zhang
这个作者很懒,什么都没留下…
展开
-
使用zookeeper管理多个hbase集群
zookeeper是hbase集群的"协调器"。由于zookeeper的轻量级特性,因此我们可以将多个hbase集群共用一个zookeeper集群,以节约大量的服务器。多个hbase集群共用zookeeper集群的方法是使用同一组ip,修改不同hbase集群的"zookeeper.znode.parent"属性,让它们使用不同的根目录。比如cluster1使用/hbase-c1,cluster2使转载 2017-07-01 15:51:29 · 3305 阅读 · 0 评论 -
ZooKeeper的事务日志和快照
客户端对ZK的更新操作都是永久的,不可回退的,也就是说,一旦客户端收到一个来自server操作成功的响应,那么这个变更就永久生效了。为做到这点,ZK会将每次更新操作以事务日志的形式写入磁盘,写入成功后才会给予客户端响应。明白这点之后,你就会明白磁盘的吞吐性能对于ZK的影响了,磁盘写入速度制约着ZK每个更新操作的响应。为了尽量减少ZK在读写磁盘上的性能损失,可以考虑使用单独的磁盘作为事务日志的输出(原创 2017-07-01 16:00:32 · 2823 阅读 · 1 评论 -
ZooKeeper安装部署
ZooKeeper安装部署1.下载安装JDK:ZooKeeper 要求 JAVA 的环境才能运行,并且需要 JAVA6 以上的版本,下载安装JDK,并配置环境变量;2.下载安装ZooKeeper:(集群安装建议至少安装2n+1台,n>0)下载zookeeper的安装包,解压到指定目录;下载地址:http://zookeeper.apache.org/releases.html3.配置ZooKeep原创 2017-07-01 16:01:40 · 2312 阅读 · 0 评论 -
ZooKeeper客户端连接数过多
ZooKeeper限制客户端连接数问题:最近发现ZooKeeper服务器上的连接数过多,都是连接zookeeper的。解决方案:通过查询分析,发现zookeeper的一个客户端使用有问题,创建的连接过多导致的。zookeeper有没有相应的功能能做下限制呢?查看zookeeper的配置参数,可以发现zookeeper的可以通过相应的配置来限制某ip的连接数。maxClientCnxns这个配置参数原创 2017-07-01 16:01:43 · 27247 阅读 · 0 评论 -
ZooKeeper Leader选举
Leader选举ZooKeeper 需要在所有的服务(可以理解为服务器)中选举出一个 Leader ,然后让这个 Leader 来负责管理集群。此时,集群中的其它服务器则成为此 Leader 的 Follower 。并且,当 Leader 故障的时候,需要 ZooKeeper 能够快速地在 Follower 中选举出下一个 Leader 。这就是 ZooKeeper 的 Leader 机制,下面我原创 2017-07-01 16:02:23 · 2590 阅读 · 0 评论 -
ZooKeeper概述
译自http://zookeeper.apache.org/doc/trunk/zookeeperOver.htmlZooKeeper是一个用于分布式应用的开源分布式协调服务。它提供了简单的原语集合,分布式应用可在这些原语之上构建用于同步、配置维护、分组和命名的高层服务。ZooKeeper的设计使得编程容易,并且使用类似于广泛熟知的文件系统目录树结构的数据模型。它运行在Java环境中,但是有Jav转载 2017-07-01 16:02:26 · 2269 阅读 · 0 评论 -
部署与管理ZooKeeper
本文以ZooKeeper3.4.3版本的官方指南为基础:http://zookeeper.apache.org/doc/r3.4.3/zookeeperAdmin.html,补充一些作者运维实践中的要点,围绕ZK的部署和运维两个方面讲一些管理员需要知道的东西。本文并非一个ZK搭建的快速入门,关于这方面,可以查看《ZooKeeper快速搭建》。1.部署本章节主要讲述如何部署ZooKeeper,包括以转载 2017-07-01 16:02:29 · 2660 阅读 · 0 评论 -
ZooKeeper典型应用场景
ZooKeeper是一个高可用的分布式数据管理与系统协调框架。基于对Paxos算法的实现,使该框架保证了分布式环境中数据的强一致性,也正是基于这样的特性,使得ZooKeeper解决很多分布式问题。网上对ZK的应用场景也有不少介绍,本文将结合作者身边的项目例子,系统地对ZK的应用场景进行一个分门归类的介绍。值得注意的是,ZK并非天生就是为这些应用场景设计的,都是后来众多开发者根据其框架的特性,利用其转载 2017-07-01 16:02:32 · 2313 阅读 · 0 评论 -
zookeeper单机多实例和分布式部署
介绍zookeeper单机多实例部署(实验性质)以及生产环境的分布式部署 1. 准备工作: 1)需要linux环境,推荐用ubuntu的系统。学习的话使用oracle的virtual box安装虚拟机,网上找下安装文档就可以装好了,而生产环境一般都会装好的。ubuntu下载链接:32位:http://mirrors.zju.edu.cn/ubuntu-releases//precise/ub转载 2017-07-01 16:03:05 · 2738 阅读 · 0 评论 -
分布式服务框架 Zookeeper -- 管理分布式环境中的数据
源自 IBM developerWorkshttp://www.ibm.com/developerworks/cn/opensource/os-cn-zookeeper/index.html安装和配置详解本文介绍的 Zookeeper 是以 3.2.2 这个稳定版本为基础,最新的版本可以通过官网 http://hadoop.apache.org/zookeeper/来获取,Zookeeper 的安转载 2017-07-01 16:04:39 · 2427 阅读 · 0 评论 -
知识链-分布式协调服务zookeeper
分布式协调服务Zookeeperzookeeper是一个开源的分布式协调服务.是典型的分布式数据一致性的解决方案.集群内所有server基于Zab(ZooKeeper Atomic Broadcast)协议进行通信Zookeeper官网地址: http://zookeeper.apache.org/Zookeeper官网文档地址:http://zookeeper.apache.org/doc/tr原创 2017-07-01 16:04:45 · 2425 阅读 · 0 评论 -
zookeeper收集
zookeeper ZooKeeper概述 部署与管理ZooKeeper ZooKeeper典型应用场景 ZooKeeper程序员指南 Zookeeper Api(java)入门与应用 zookeeper java例子(官网) zookeeper 生产者与消费者(官网) zookeeper 应用场景与方案(官网) ZooKee原创 2017-09-18 13:53:04 · 463 阅读 · 0 评论 -
ZooKeeper监控
ZooKeeper监控有以下几种方法: ZK提供一些简单但是功能强大的4字命令,通过对这些4字命令的返回内容进行解析,可以获取不少关于ZK运行时的信息。 用jmx也能够获取一些运行时信息,详细可以查看这里:http://zookeeper.apache.org/doc/r3.4.3/zookeeperJMX.html 淘宝网已经实现的一个ZooKeeper监控——TaoKeeper,已开源,在这里原创 2017-07-01 16:00:29 · 2545 阅读 · 0 评论 -
ZooKeeper运维指令
服务的启动与停止:找到 %zkHome%\bin 目录,通过该目录下的zkServer.sh启动 zkServer.sh start停止 zkServer.sh stop重启 zkServer.sh restart查看ZK服务状态 zkServer.sh statuszk客户端命令:ZooKeeper命令行工具类似于Linux的shell环境,不过功能肯定不及shell啦,但是使用它我们可以简单的原创 2017-07-01 16:00:26 · 2417 阅读 · 0 评论 -
ZooKeeper管理指南
ZooKeeper Administrator's GuideA Guide to Deployment and Administrationhttp://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.htmlZooKeeper管理指南--在线PDFhttps://cloud.github.com/downloads/nileader/ZooKeep原创 2017-07-01 16:00:23 · 2469 阅读 · 0 评论 -
认识ZooKeeper
ZookeeperZooKeeper 是一个为分布式应用所设计的分布的、开源的协调服务。分布式的应用可以建立在同步、配置管理、分组和命名等服务的更高级别的实现的基础之上。 ZooKeeper 意欲设计一个易于编程的环境,它的文件系统使用我们所熟悉的目录树结构。ZooKeeper Server是一个Java语言实现的分布式协调服务框架,因此需要6或更高版本的JDK支持。Zookeeper主要使用于构原创 2017-07-01 15:58:52 · 2354 阅读 · 0 评论 -
ZooKeeper使用入门
ZooKeeper在线APIhttp://zookeeper.apache.org/doc/r3.4.6/api/index.htmlZooKeeper API共包含5个包,分别为:org.apache.zookeeper,org.apache.zookeeper.data,org.apache.zookeeper.server,org.apache.zookeeper.server.quorum原创 2017-07-01 15:58:55 · 2398 阅读 · 0 评论 -
ZooKeeper服务详解
ZooKeeper服务详解ZooKeeper是一个具有高可用性的高性能的协调服务。1.数据模型ZooKeeper维护着一个树形层次结构,树中的节点被称为znode。znode可以用于存储数据,并与之相关联一个ACL。通常存储小数据文件,限制在1MB以内。ZooKeeper的数据访问具有原子性。客户端在读取一个znode数据时,要么读到所有数据,要么操作失败,不能只读到部分数据。写数据也同样。zno原创 2017-07-01 15:59:07 · 3161 阅读 · 0 评论 -
ZooKeeper构建配置服务
ZooKeeper构建配置服务 * 配置服务是分布式应用所需要的基本服务之一,它使集群中的机器可以共享配置信息中那些公共的部分。 * 简单的说,ZooKeeper可以作为一个具有高可用性的配置存储器,允许分布式应用的参与者检索和更新配置文件。 * 使用ZooKeeper中的观察机制,可以建立一个活跃的配置服务,使那些感兴趣的客户端能够获得配置信息修改的通知。在每个znode上存储一个键值对,Act原创 2017-07-01 15:59:10 · 2312 阅读 · 0 评论 -
ZooKeeper复制模式
ZooKeeper服务有两种不同的运行模式。独立模式(standalone mode)和复制模式(replicated mode).独立模式:简单,适合于测试环境,不能保证高可用性和恢复性。复制模式:适合生产环境,运行于一个计算机集群上,通过复制来实现高可用性,只要集合体中半数以上的机器处于可用状态,它就能提供服务。因此集合体通常包含奇数台机器。ZooKeeper概念:它所做的就是确保对znode原创 2017-07-01 15:59:16 · 3295 阅读 · 0 评论 -
ZooKeeper故障处理
Zookeeper一般会出现以下两种故障:1. Zookeeper进程挂掉;2. Zookeeper进程还在,但不提供服务;(提示:This ZooKeeper instance is not currently serving requests)Zookeeper故障监控:1. 针对zookeeper进程的监控,直接监控器进程是否存在即可;(zookeeper进程名字:QuorumPeerMai原创 2017-07-01 15:59:45 · 4441 阅读 · 0 评论 -
ZooKeeper锁服务
分布式锁在一组进程之间提供了一种互斥机制。在任何时刻,只有一个进程可以持有锁。分布式锁可以应用于大型分布式系统中实现领导者选举,在任何时间点,持有锁的进程就是系统的领导者。为了使用ZooKeeper来实现分布式锁服务,我们使用顺序znode来为那些竞争锁的进程强制排序。实现思路很简单:首先指定一个作为锁的znode,通常用它来描述被锁定的实体,称为/leader;然后希望获得锁的客户端创建一些短暂原创 2017-07-01 16:00:08 · 2363 阅读 · 0 评论 -
ZooKeeper观察节点
ZooKeeper观察节点ZooKeeper中有一个“观察节点”(observer node)的概念,指没有投票权的跟随者。由于观察节点不参与写请求过程中达成共识的投票,因此使用观察节点可以让ZooKeeper集群在不影响写性能的情况下提高读操作的性能。此外,将投票节点安放在一个数据中心,将观察节点安放在另一个数据中心,可以使ZooKeeper集群跨越多个数据中心。原创 2017-07-01 16:00:11 · 3029 阅读 · 0 评论 -
zookeeper运行优化
1. 为什么选择奇数台机器部署zookeeper集群:关于ZooKeeper,需要明确一个很重要的特性:集群中只要有过半的机器是正常工作的,那么整个集群对外就是可用的,即过半存活即可用。部署奇数台机器可以充分利用集群中的每个节点提供容灾能力。如果想搭建一个能够允许F台机器down掉的集群,那么就要部署一个由2xF+1 台机器构成的ZK集群。通常都建议尝试跨机房部署。2. Server的自检恢复 Z原创 2017-07-01 16:00:14 · 4478 阅读 · 0 评论 -
zookeeper启动异常
zookeeper启动异常1. 新部署的zookeeper或清理过数据信息后,启动zookeeper的时候报错并启动失败。此时可能是以下几个方面引起的:在数据目录下就是dataDir参数指定的那个目录下,没有创建myid文件,需要自己创建myid文件,并在myid文件中写上这个Server ID数字。没有创建日志文件路径即dataLogDir目录,一定要创建到logs文件夹。创建完以上两个文件后可原创 2017-07-01 16:00:17 · 3476 阅读 · 0 评论 -
ZooKeeper配置参数
配置文件说明,官网的最权威ZooKeeper官网配置参数详解http://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.html#sc_minimumConfiguration 下面列出一些自认为比较有用和重要的参数:clientPort客户端连接server的端口,即对外服务端口,一般设置为2181吧。dataDir存储快照文件snapshot的目原创 2017-07-01 16:00:20 · 2555 阅读 · 0 评论 -
Zookeeper运维总结
zookeeper VIRT虚拟内存占用过大的问题:这个和zookeeper的实现有关,参考这里:http://zookeeper-user.578899.n2.nabble.com/setting-zookeeper-heap-size-td6983511.html线上的zookeeper的VIRT有30多G,查看了data, dataLog,总共才几百M。不过一直没什么问题。原创 2017-09-18 17:02:28 · 2693 阅读 · 0 评论