
zookeeper
文章平均质量分 67
豹先生_MR-BAO
做中国云计算导航人~~~~~
展开
-
Hadoop分布式集群系统 动态添加节点
1、 安装jdk1.6.0_26(安装java环境)Scp /etc/profile (注释)newnodeip:/etc2、 安装hadoop及hbase、zookeeperYum install hadoop-0.20Yum install转载 2011-08-03 18:45:52 · 1599 阅读 · 0 评论 -
HBase入门7 -安全&权限
我的废话: 大年三十夜,看春晚实在是太无聊了,整个《新闻联播》的电视剧版本,还不如上上网,看看资料,喝喝老酒,写点东西来的快活。 近2年来云计算的话题到目前为止风风火火从来没有平静过,一直是大家嘴边讨论的热门话题,人们期望运用云计算提供可靠、稳定、高速的计算转载 2011-09-15 11:01:19 · 875 阅读 · 0 评论 -
HBase入门5(集群) -压力分载与失效转发
在上一篇关于HBase的文章中曾经讲述过HBase在分布式中的架构,这篇文章将会讲述HBase在分布式环境中是如何排除单点故障的(SPFO),做一个小实验讲述HBase在分布式环境中的高可用性,亲眼看到一些现象,延伸一些思考的话题。先来回顾一下HBase主要部件:转载 2011-09-15 11:03:46 · 880 阅读 · 0 评论 -
HBase性能调优
配置优化zookeeper.session.timeout默认值:3分钟(180000ms)说明:RegionServer与Zookeeper间的连接超时时间。当超时时间到后,ReigonServer会被Zookeeper从RS集群清单中移除,HMaster收到移除通知后转载 2011-08-25 11:43:40 · 1739 阅读 · 0 评论 -
hive连接hbase方法
IntroductionThis page documents the Hive/HBase integration support originally introduced in HIVE-705. This feature allows Hive QL statemen转载 2011-08-25 11:41:33 · 2506 阅读 · 0 评论 -
在windows xp系统下配置eclipse集成hadoop开发
一、目的:由于hadoop只能在Linux环境下运行,所以对于在windwos系统下使用IDE工作的开发人员来说,调试是件麻烦的工作,所以我们今天要配置的Hadoop开发环境是在Windows XP系统下,并集成eclipse使开发人员在做hadoop开发时更容易调试。二转载 2011-08-25 11:39:52 · 3515 阅读 · 0 评论 -
Bigtable探秘 Google分布式数据存储系统DFS(1)
摘要Bigtable是一个分布式的结构化数据存储系统,它被设计用来处理海量数据:通常是分布在数千台普通服务器上的PB级的数据。Google 的很多项目使用Bigtable存储数据,包括Web索引、Google Earth、Google Finance。这些应用对Bigta转载 2011-09-22 11:12:51 · 1172 阅读 · 0 评论 -
Bigtable探秘 Google分布式数据存储系统DFS(2)
5 介绍Bigtable包括了三个主要的组件:链接到客户程序中的库、一个Master服务器和多个Tablet服务器。针对系统工作负载的变化情 况,BigTable可以动态的向集群中添加(或者删除)Tablet服务器。Master服务器主要负责以下工作:为Table转载 2011-09-22 11:14:46 · 1692 阅读 · 0 评论 -
Hive HBase 整合(中文)
hive hbase整合,要求比较多,1.hive的得是0.6.0(当前最新的版本) 2.hive本身要求hadoop的最高版本是hadoop-0.20.2 3.要求hbase的版本是0.20.3,其他版本需要重新编译hive_hbase-handler 但是新版的h转载 2011-08-29 11:50:31 · 1426 阅读 · 0 评论 -
Hbase利用HTablePool实现Htable连接池
之前通过直接new Htable方式对hbase表进行操作,会经常抛出NIOServerCnxn: Too many connections from /10.202.50.79 - max is 60 异常解决最后经过分析为Htable创建过多,而每创建一个htable原创 2011-09-28 19:28:49 · 7331 阅读 · 2 评论 -
HTablePool 连接池源码分析
public class HTablePool { //存放多个htable的ConcurrentMap,这里用ConcurrentMap是为了线程安全 //LinkedList放的是同一hatable多个对象的链表 private final ConcurrentM原创 2011-09-28 19:53:20 · 2503 阅读 · 1 评论 -
HBase 架构101 –预写日志系统 (WAL)
HBase 架构101 –预写日志系统 (WAL)原文:http://www.larsgeorge.com/2010/01/hbase-architecture-101-write-ahead-log.html什么是预写日志WAL? 之前的文章我们简单介绍了HBase的存储结构。其中提到了预写日志。这里,我们要介绍它的实现细节,所有的描述都基于HBase 0.20.3.WAL最重转载 2011-11-09 18:11:26 · 1792 阅读 · 0 评论 -
HBase入门篇2-Java操作HBase例子
本篇文章讲述用HBase Shell命令 和 HBase Java API 对HBase 服务器 进行操作。在此之前需要对HBase的总体上有个大概的了解。比如说HBase服务器内部由哪些主要部件构成?HBase的内部工作原理是什么?我想学习任何一项知识、技术的态度不能只是知道如转载 2011-09-15 11:05:55 · 1503 阅读 · 0 评论 -
HBase入门篇4–存储
前几篇文章讲述了 HBase的安装、Hbase命令和API的使用、HBase简单的优化技巧,《HBase入门篇4》这篇文章是讲述把HBase的数据放在HDFS上的点滴过程。目前对与HBase我是一个绝对的新手,如果在文章中有任何我理解有错误的地方请各位指正,谢谢。Ok,进转载 2011-09-15 11:04:22 · 1211 阅读 · 0 评论 -
hadoopFATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Incompatible build versions: namenode
datanode起不来,日志为:STARTUP_MSG: Starting DataNodeSTARTUP_MSG: host = cloud2/X.X.X.XSTARTUP_MSG: args = []STARTUP_MSG: version = 0转载 2011-08-03 18:53:21 · 1229 阅读 · 0 评论 -
Could not append.Requesting close of hlog
上几天跑程序,hadoop集群报了如下错误:2011-08-05 11:57:03,067 DEBUG org.apache.hadoop.hbase.regionserver.HRegion:Started memstore flush forwb_userinfo,sin原创 2011-08-09 19:08:03 · 666 阅读 · 0 评论 -
hbase 根据需求创建组合索引(组合rowkey)及组合索引创建规则
hbase据我目前的了解来看 《查询》方面的最大优势是根据rowkey 进行查询,然后结合map/reduce 运算效率非常高,但是如果牵扯到表关联查询,涉及到列簇中的列时,因为没有索引效率就变的非常低下,所以我这采用了组合索引(组合rowkey)方式来解决这个问题,下面采用简单原创 2011-08-09 20:02:31 · 2049 阅读 · 0 评论 -
hbase中的缓存的计算与使用
hbase中的缓存分了两层:memstore和blockcache。 其中memstore供写使用,写请求会先写入memstore,regionserver会给每个region提供一个memstore,当memstore满64MB以后,会启动flush刷新转载 2011-09-09 10:56:00 · 1108 阅读 · 0 评论 -
java.io.IOException: Could not obtain block: blk
联系两个晚上跑数据出现这个异常,具体内容如下:2011-08-10 05:51:21,823 ERRORorg.apache.hadoop.hbase.regionserver.CompactSplitThread: Compaction/Splitfailed for原创 2011-08-11 21:26:27 · 4120 阅读 · 0 评论 -
ClientCnxn: Session 0x0 for server null, unexpected error Connection refused
坑爹的异常!这个异常碰到过多次每次有可能会是不同的地方出现问题导致,现在总结出来该异常的总体解决方向为:是zookeeper访问regionserver时候抛出的,一般是hbase-site.xml中的dns设置有问题,或者dns本身有问题,症状就为regionserver一原创 2011-08-11 21:33:11 · 3703 阅读 · 0 评论 -
zookeeper NIOServerCnxn: Too many connections from /10.202.50.79 - max is 60 异常解决办法
原因:客户端程序通过zookeeper访问hbase的连接数超过设置的默认链接数,连接数不够用导致解决办法:设置hbase-site.xml配置文件,添加如下属性 hbase.zookeeper.property.maxClientCnxns 300原创 2011-09-08 10:46:18 · 5056 阅读 · 0 评论 -
基于Hbase存储的分布式消息(IM)系统-JABase
前段日子看了在highscalability.com上一篇介绍facebook消息系统的文章,一夜之后被无数个网站无数次的转载,现如今facebook的任何一个话题都会引起很多人的关注,但我对只对这文章里面没有说明的部分比较感兴趣,系统里是怎么获得即时消息的?PHP监听器?开启很转载 2011-09-15 11:00:32 · 1197 阅读 · 0 评论 -
Hbase入门6 -白话MySQL(RDBMS)与HBase之间
我的废话1: 任何一项新技术并非救命稻草,一抹一擦立马药到病除的百宝箱,并非使用Spring或者NOSQL的产品就神乎其神+五光十色,如果那样基本是扯淡。同类 型产品中不管那种技术最终要达到的目的是一样的,通过新的技术手段你往往可能避讳了当前你所需要面对的问题,但过后新的转载 2011-09-15 11:02:59 · 1100 阅读 · 0 评论 -
HBase入门篇3-hbase 配置文件参数设置及优化
前两篇文件分别说到了我在学习HBase中的一些入门经验,而《HBase 入门3》这篇文章浅显的从几个方面谈谈HBase的一些优化技巧,只能作为我学习笔记的一部分,因为学多了怕忘,留给自己以后看看。1 修改 linux 系统参数 Linux系统最大可打开文件转载 2011-09-15 11:05:18 · 5295 阅读 · 1 评论 -
HBase入门篇1-为什么hbase,hbase特性、优点,hbase基础
HBase是什么? HBase是Apache Hadoop中的一个子项目,Hbase依托于Hadoop的HDFS作为最基本存储基础单元,通过使用hadoop的DFS工具就可以看到这些这些数据 存储文件夹的结构,还可以通过Map/Reduce的框架(算法)对HBase进行操作,转载 2011-09-15 11:06:49 · 4893 阅读 · 0 评论 -
zookeeper动态通知实现
转载请注明:@ni掌柜 本文重点围绕ZooKeeper的Watcher,介绍通知的状态类型和事件类型,以及这些事件通知的触发条件。 1、浅谈Watcher接口在ZooKeeper中,接口类Watcher定义了事件通知相关的逻辑,包含了KeeperState和EventType两个枚举类,分别代表通知状态和事件类型。还有一个比较重要的接口方法:abstract public转载 2014-06-24 11:02:55 · 2785 阅读 · 1 评论