hbase
文章平均质量分 83
无
今天该取什么名字好
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
hbase调优知识点(预分区和rowkey)
一、预分区默认情况下,在创建HBase表的时候会自动创建一个region分区,当导入数据的时候, 所有的HBase客户端都向这一个region写数据,直到这个region足够大了才进行切分。 一种可以加快批量写入速度的方法是通过预先创建一些空的regions,这样当数据写入 HBase时,会按照region分区情况,在集群内做数据的负载均衡。如果知道hbase数据表的key的分布情况,就可以在建表的时候对hbase进行region的预分区。这样做的好处是防止大数据量插入的热点问题,提高数据插入的效率原创 2021-12-05 21:51:24 · 1443 阅读 · 0 评论 -
java使用hbase过滤器
1.什么是过滤器过滤器可以根据列族、列、版本等更多的条件来对数据进行过滤, 基于 HBase 本身提供的三维有序(行键,列,版本有序),这些过滤器可以高效地完成查询过滤的任务,带有过滤器条件的 RPC 查询请求会把过滤器分发到各个 RegionServer(这是一个服务端过滤器),这样也可以降低网络传输的压力。2.比较运算符 LESS < LESS_OR_EQUAL <= EQUAL = NOT_EQUAL <> GREAT原创 2021-12-05 20:24:53 · 3753 阅读 · 1 评论 -
HBase BulkLoading
参考hive,如果指定文件在hdfs上的存储路径, 已经有文件就会自动加载到表中;hbase的storefile也会在hdfs存储,那么我们应该也可以利用这一点,将数据以这种方式导入到hbase中,但是存放文件的目录不能像hive一样随便,应该是放在、一、定义HBase BulkLoading:它是利用hbase的数据信息按照特定格式存储在hdfs内这一原理,直接生成这种hdfs内存储的数据格式文件,然后上传至合适位置,即完成巨量数据快速入库的办法。配合mapreduce完成,高效便..原创 2021-12-05 19:35:47 · 769 阅读 · 0 评论 -
hbase中的mapreduce
import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Path;import org.apache.hadoop.hbase.TableName;import org.apache.hadoop.hbase.client.Result;import org.apache.hadoop.hbase.client.Scan;impo.原创 2021-12-05 15:17:44 · 1639 阅读 · 0 评论 -
hbase笔记1
1.为什么要使用hbase?我们在学习hbase之前应该对hive有了一个了解,hive是管理存储在hdfs上的数据(离线处理),hive处理数据是通过mapreduce处理,那么假设是100个T的数据,一个maptask如果按block块的大小128m处理, 每个maptask运行时间大概是1-5分钟,就算是1000台机器的集群也能跑个几十天, 他的效率太低所以我们要学习hbase :他是属于半结构化的NoSql,查询效率高,并且可以进行实时查询2.hbase的简介1.HBase.原创 2021-12-01 20:07:16 · 1118 阅读 · 0 评论 -
hbase通过行键查询多VERSIONS数据
一段非常长的数据,第一个是加密后的用户信息,后面依次是开始时间,结束时间,区县编码,经度,纬度....现在我希望创建一张表,导入这些数据,查询一个用户最新的三次地点经纬度我们就筛选一下数据,传入第一个,第二个,第四个,第五个就行我将每个步骤分开了,下面的测试模块都是在第一个代码中的一、创建连接1、创建一个配置文件, 需要输入zookeeper节点信息,以及你的三台主机名称2、创建连接3、如果需要对表结构操作 则getAdmin;对数据进行操作,则getTableimp.原创 2021-12-01 16:36:46 · 1521 阅读 · 0 评论 -
hbaseAPI操作
根据自己用的hbase版本 需要导入的依赖<dependencies> <dependency> <groupId>org.apache.hbase</groupId> <artifactId>hbase-client</artifactId> <version>1.4.6</version> </dependency><原创 2021-12-01 11:15:46 · 3073 阅读 · 0 评论
分享