
zookeeper
小杰1111
热爱互联网开发
展开
-
Paxos算法与Zookeeper分析
1 Paxos算法1.1 基本定义算法中的参与者主要分为三个角色,同时每个参与者又可兼领多个角色:⑴proposer 提出提案,提案信息包括提案编号和提议的value;⑵acceptor 收到提案后可以接受(accept)提案;⑶learner 只能"学习"被批准的提案;算法保重一致性的基本语义:⑴决议(value)只有在被proposers转载 2015-06-01 14:22:26 · 505 阅读 · 1 评论 -
zookeeper 原理
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它包含一个简单的原语集,分布式应用程序可以基于它实现同步服务,配置维护和命名服务等。Zookeeper是hadoop的一个子项目,其发展历程无需赘述。在分布式应用中,由于工程师不能很好地使用锁机制,以及基于消息的协调机制不适合在某些应用中使用,因此需要有一种可靠的、可扩展的、分布式的、可配置的协调机制来统一系统的状态。Zookee转载 2015-06-01 14:23:36 · 392 阅读 · 0 评论 -
zookeeper 简介
一直对zookeeper的应用和原理比较迷糊,今天看一篇文章,讲得很通透,分享如下: 场景一有这样一个场景:系统中有大约100w的用户,每个用户平 均有3个邮箱账号,每隔5分钟,每个邮箱账需要收取100封邮件,最多3亿份邮件需要下载到服务器中(不含附件和正文)。用20台机器划分计算的压力,从 多个不同的网路出口进行访问外网,计算的压力得到缓解,那么每台机器的计算压力也不会很大了。转载 2015-06-01 14:26:24 · 4389 阅读 · 0 评论 -
zookeeper 学习记录1
背景 前段时间看了S4流计算引擎,里面使用到了zookeeper进行集群管理,所以也就花了点时间研究了下zookeeper,不求看懂所有源码,但求了解其实现机制和原理,清楚其基本使用。这也是为后续hadoop,gridgain的分布式计算的产品。学习首先就是收集一些前人的一些学习资料和总结内容,方便自己快速入门。 这里罗列了几篇不错的文章: htt转载 2015-06-01 14:27:16 · 431 阅读 · 0 评论 -
zookeeper 学习记录2
背景继上一篇的zookeeper的学习,上一篇主要偏向于zookeeper的总体结构的熟悉和使用层面。 本文主要是记录自己学习其内部的选举算法,一致性处理策略。过程在开始之前,推荐几篇比较不错的文章:http://rdc.taobao.com/blog/cs/?p=162 (选举算法)http://rdc.taobao.com/team/jm/archives/4转载 2015-06-01 14:30:53 · 431 阅读 · 0 评论 -
zookeeper 学习记录3 (session,watcher,persit机制)
背景继续前面的zookeeper学习的专题,这次主要是结合项目中遇到的一些问题,进一步学习了下zookeeper的一些内部机制。 针对以下几个问题:1. zk是否可以保证watcher事件不丢失?2. zk的EPHEMERAL节点的自动过期时间? 3. zk的如何保证节点数据不丢失? 如果你已经非常清楚这以上的几个问题,看官们可以不用转载 2015-06-01 14:30:20 · 625 阅读 · 0 评论 -
zookeeper 学习记录4(项目使用几点小结)
背景 前段时间学习了zookeeper后,在新的项目中刚好派上了用场,我在项目中主要负责分布式任务调度模块的开发,对我自己来说是个不小的挑战。 分布式的任务调度,技术上我们选择了zookeeper,具体的整个分布式任务调度的架构选择会另起一篇文章进行介绍。 本文主要是介绍自己在项目中zookeeper的一些扩展使用,希望可以对大家有所帮助。 项目中转载 2015-06-01 14:32:45 · 388 阅读 · 0 评论 -
zookeeper 学习记录5(分布式lock实现)
背景 继续上一篇文章:http://agapple.iteye.com/blog/1183972 ,项目中需要对分布式任务进行调度,那对应的分布式lock实现在所难免。 这一周,在基于BooleanMutex的基础上,实现了zookeeper的分布式锁,用于控制多进程+多线程的lock控制 算法可以预先看一下zookeeper的官方文档:转载 2015-06-01 14:32:50 · 787 阅读 · 0 评论 -
zookeeper 安装配置详解
本文介绍的 Zookeeper 是以 3.2.2 这个稳定版本为基础,最新的版本可以通过官网http://hadoop.apache.org/zookeeper/来获取,Zookeeper 的安装非常简单,下面将从单机模式和集群模式两个方面介绍 Zookeeper 的安装和配置。单机模式单机安装非常简单,只要获取到 Zookeeper 的压缩包并解压到某个目录如:/home/z转载 2015-06-01 14:28:18 · 1578 阅读 · 0 评论