
Hbase
wsow
这个作者很懒,什么都没留下…
展开
-
Hbase-API,基本表命令操作
package hbase;import java.io.IOException;import java.util.Iterator; import java.util.List;import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.Cell; import org.apache.hadoop.hbas原创 2017-09-14 18:21:07 · 298 阅读 · 0 评论 -
hbase与sqoop集成
HBase与 Sqoop整合 将mysql中的数据导入到HBase ## 在mysql中创建一张表 create database demo; use demo; //导入全部数据到MySQL 在mysql命令行 source /home/bigdata/so_detail.sql //验证数据是否导入成功 select * from so_deta原创 2017-09-19 00:43:33 · 1120 阅读 · 0 评论 -
hbase与hive集成
hbase与hive集成 官方部署使用参考资料: 官方文档步骤在hive的官网上: 1、拷贝jar包或创建jar包的软连接 hive作为一个客户端访问hbase需要hbase相同jar包的依赖支持 创建软连接,hive作为hbase的客户端需要访问hbase,需要相关jar包依赖 软连接类似于快捷方式,删除软连接不会删除原文件原创 2017-09-19 00:41:45 · 534 阅读 · 0 评论 -
从hbase表1中读取数据,最终结果写入到hbase表2 ,如何通过MapReduce实现 ?
需要一: 将hbase中‘student’表中的info:name和info:age两列数据取出并写入到hbase中‘user’表中的basic:XM和basic:NL class ReadStudentMapper extends TableMapperpackage hbaseapi.hbase; import java.io.IOException;import org.apac原创 2017-09-19 00:39:51 · 1616 阅读 · 0 评论 -
Hbase 布隆过滤器BloomFilter介绍
1、主要功能 提高随机读的性能 2、存储开销 bloom filter的数据存在StoreFile的meta中,一旦写入无法更新,因为StoreFile是不可变的。Bloomfilter是一个列族(cf)级别的配置属性,如果你在表中设置了Bloomfilter,那么HBase会在生成StoreFile时包含一份bloomfilter结构的数据,称其为MetaBlock原创 2017-09-18 00:38:24 · 551 阅读 · 0 评论 -
HBase数据存储格式
好的数据结构,对于检索数据,插入数据的效率就会非常高。 常见的数据结构 B+树 根节点和枝节点很简单,分别记录每个叶子节点的最小值,并用一个指针指向叶子节点。 叶子节点里每个键值都指向真正的数据块,每个叶子节点都有前指针和后指针,这是为了做范围查询时,叶子节点间可以直接跳转,从而避免再去回溯至枝和根节点。 特点: 1、有n棵子树的结点中含有n个关键字,原创 2017-09-18 00:28:12 · 619 阅读 · 0 评论 -
HBase-1.2.4LruBlockCache实现分析(一)
一、简介 BlockCache是HBase中的一个重要特性,相比于写数据时缓存为Memstore,读数据时的缓存则为BlockCache。 LruBlockCache是HBase中BlockCache的默认实现,它采用严格的LRU算法来淘汰Block。 二、缓存级别 目前有三种缓存级别,定义在BlockPriority中,如下: [java] view plain copypublic en转载 2017-09-17 18:19:47 · 386 阅读 · 0 评论 -
hbase-HA
HMaster HA 防止master单节点故障**重点内容** 虽然hbase表数据的读写不经过master,master宕机一段时间内集群还可以正常读写,当时还是有不可或缺的作用 如何实现 Master HA的实现是借助于zookeeper基于观察者模式监控master状态 regionserver是否有单点故障? 没有,类原创 2017-09-16 16:03:20 · 391 阅读 · 0 评论 -
将hdfs上的数据通过MapReduce上传到hbase上
package hbase; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.conf.Configured; import org.apache.hadoop.fs.Path; import org.apache.hadoop.hbase.HBaseConfiguration; import o原创 2017-09-14 18:35:49 · 354 阅读 · 0 评论 -
hbase读写流程
---------------------------------------- hbase表数据的检索流程图(读和写的流程) 1、hbase在Hadoop集群中的物理架构 master通常是Hadoop集群中的一台或两台(backup-Master) regionserver通常是Hadoop集群中的部分或全部原创 2017-09-19 12:12:10 · 489 阅读 · 0 评论