
HBase
eryk86
这个作者很懒,什么都没留下…
展开
-
读取HFile 按Timestamp 删除 HBase 数据
import java.io.IOException;import java.text.SimpleDateFormat;import java.util.Calendar;import java.util.LinkedList;import java.util.concurrent.ExecutorService;import java.util.concurrent.Executor原创 2012-04-18 10:00:33 · 1233 阅读 · 0 评论 -
ganglia安装部署
系统:Centos6.3 x86_641. 将epel-release-6-8.noarch.rpm加入repo.rpm-ivh epel-release-6-8.noarch.rpm2. yum update; 在服务器安装 yuminstall ganglia ganglia-gmetad ganglia-web ganglia-gmond在其他机器安装原创 2013-07-19 00:25:36 · 836 阅读 · 0 评论 -
hbase scan查询代码分析
Scan查询过程步骤1. HTable.getScanner()关掉之前在server端打开的Scanner,防止server端过多的资源占用client端:ScannerCallable.call() -> close(scannerId)server端:HRegionServer.close(scannerId)根据localStartKey在指定region上打开sc原创 2014-01-15 10:05:29 · 1088 阅读 · 0 评论 -
ycsb +hbase 0.96 编译pom文件修改
修改hbase-binding下的pom.xml org.apache.hbase hbase-client 0.96.1-hadoop2 org.apache.hadoop hadoop-common 2.2.0原创 2014-02-19 17:01:32 · 1681 阅读 · 2 评论 -
hbase0.96(Singularity)介绍
2013年10月19日apache官方发布了hbase0.96.0版本,共提交了2134个patch,与官方声称的0.94是性能提升版不同,0.96在可用性上做了很大努力,大幅提升了稳定性、可操作性以及伸缩性。下面介绍下0.96的主要新特性:ReducedMean-Time-To-Recovery (MTTR)大量优化操作使regionservercrash对集群影响从分钟级降原创 2014-03-07 10:59:59 · 1010 阅读 · 0 评论 -
hbase 结点之间时间不一致造成regionserver启动失败
Time difference of 41450ms > max allowed of 30000ms1.方案1在hbase-site.xml添加配置<property> <name>hbase.master.maxclockskew</name> <value>180000</value> <des原创 2011-05-30 16:26:28 · 136 阅读 · 0 评论 -
hbase code
IOException; import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.hbase.HBaseConfiguration;import org.apache.hadoop.hbase.KeyValue;import org.apache.hadoop.hbase.client.HTable;import org.apache.hadoop.hbase.client.Put;import o原创 2011-08-17 15:24:53 · 77 阅读 · 0 评论 -
opentsdb使用入门
使用snappy压缩方式建表语句,需要hbase集群安装了snappyenv COMPRESSION=snappy ./opentsdb/src/create_table.sh启动方式nohup opentsdb/build/tsdb tsd --port=4242 --staticroot=opentsdb/build/staticroot --cachedir="/tmp/原创 2013-07-13 11:34:22 · 1840 阅读 · 0 评论 -
解决0.92.1一个meta表损坏的问题
使用hbase hbck 检查报如下错误: ERROR: (region actionlog3_201206,\xF5\xD71338640520048441900060910,1340796362317.938f47b2a853094f434a2efe71c51f59.) Multiple regions have the same startkey: \xF5\xD71338640原创 2012-07-05 19:40:19 · 1918 阅读 · 2 评论 -
Hadoop组成简介
Hadoop是Apache的一个项目(它是包含了很多子项目的集合,见下图),它是一个实现了MapReduce计算模型的可以运用于大型集群并行计算的分布式并行计算编程框架,当然分布式计算离不开分布式存储,Hadoop框架包含了分布式存储系统HDFS(Hadoop Distributed File System),其存储和数据结构很类似Google的GFS.HBase是Hadoop的其中一个子项目,它原创 2013-01-09 10:25:46 · 357 阅读 · 0 评论 -
opentsdb的安装与配置(centos6.2)
1.介绍开源监控系统OpenTSDB,用hbase存储所有的时序(无须 采样)来构建一个分布式、可伸缩的时间序列数据库。它支持秒级数据采集所有metrics,支持永久存储,可以做容量规划,并很容易的接入到现有的报警系统里。OpenTSDB可以从大规模的集群(包括集群中的网络设备、操作系统、应用程序)中获取相应的metrics并进行存储、索引以及服务,从而使得这些数据更容易让人理解,如web化,原创 2013-01-28 09:39:14 · 2507 阅读 · 0 评论 -
hbase code
package com.run.hbase.dataImport; import java.io.BufferedReader;import java.io.BufferedWriter;import java.io.File;import java.io.FileReader;import java.io.FileWriter;import java.io.IOExc原创 2013-01-14 11:49:21 · 253 阅读 · 0 评论 -
hbase 压缩
Hbase有两种压缩策略:minor和major。Minor compactions通常选择几个临近的小的storefiles把他们重写成一个。Minors 不会丢掉已删除或者过期的cells,只有major compactions才会做这些。有时一次Minor compactions将会选择一个store里的全部storefiles,因此,它实际上是一次局部的major compaction。原创 2013-01-15 17:17:47 · 465 阅读 · 0 评论 -
hbase 结点之间时间不一致造成regionserver启动失败
Caused by: org.apache.hadoop.ipc.RemoteException: org.apache.hadoop.hbase.ClockOutOfSyncException: Server s3,60020,1304927875246 has been rejected; Reported time is too far out of sync with master.原创 2013-01-14 11:48:17 · 276 阅读 · 0 评论 -
zookeeper项目使用几点小结
背景 前段时间学习了zookeeper后,在新的项目中刚好派上了用场,我在项目中主要负责分布式任务调度模块的开发,对我自己来说是个不小的挑战。 分布式的任务调度,技术上我们选择了zookeeper,具体的整个分布式任务调度的架构选择会另起一篇文章进行介绍。 本文主要是介绍自己在项目中zookeeper的一些扩展使用,希望可以对大家有所帮助。 项目中转载 2013-06-06 14:00:52 · 779 阅读 · 1 评论 -
hbase 0.94.3代码学习-flush(1)
flush触发方式1. Server端执行更新操作(put、delete、multi(MultiActionmulti)、(private)checkAndMutate、mutateRow (byte[] regionName, RowMutations rm))执行前后触发内存检查操作执行前MemStoreFlusher .reclaimMemStoreMemor原创 2013-06-09 10:09:22 · 811 阅读 · 0 评论 -
hbase 压缩
compactions才会做这些。有时一次Minor compactions将会选择一个store里的全部storefiles,因此,它实际上是一次局部的major compaction。当进行完一次major compaction以后所有的store都只有一个storefiles,这对查询性能有很大提升。注意:major compaction将会在一个运行中的系统中重写全部store的数据,不提倡自动运行;major compactions 在大型系统中通常是手动进行的。9.7.5.5.1. Co原创 2012-06-14 21:53:07 · 166 阅读 · 0 评论