
hbase
文章平均质量分 64
走向自由
追随自己内心的声音,走向自由。
展开
-
HBase删除之后的读取和写入
现象:删除某个column,然后再向改column写入相同的数据,死活写不进去。一度怀疑是程序封装得有问题。后来偶然原因去把表删除后,又可以写进去了。原因分析:HBase的Delete不是直接删除数据所对应的文件位置内容,而是一个标记删除动作。即,在删除的时候,加上一条类似<delete, cell, timestamp>的记录。在下一次major compact之前,这条delete记录跟真实的数据记录,比如<cell, timestamp1>,都存在于HB.原创 2020-05-11 17:46:06 · 521 阅读 · 0 评论 -
【工具类】系列三 HBase访问工具类 HBaseUtil
这是对HBase访问的简单封装,主要是Spark executor上使用,就没有注意多线程安全了。若有需要自己优化。直接贴代码:/** * HBase Utility class, HBase Design document see: <br/> * Attention: put/get/del is not thread safe due to use HBase Table interface. * * @author adore.chen * @date 202.原创 2020-05-11 17:37:49 · 774 阅读 · 0 评论 -
使用HFileOutputFormat2进行HBase bulk load时的常见错误
最近在用HFileOutputFormat2进行HBase bulk load数据时出现了以下错误,记录下供有相同错误的童鞋们查阅。异常1:java.io.IOException: Mkdirs failed to create /user/adorechen/hbase-stagingException in thread "main" java.io.IOExceptio...原创 2017-12-31 17:42:28 · 7232 阅读 · 5 评论 -
java.lang.NullPointerException at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.init
最近在使用Hbase MultitableInputFormat多表输入时发生下面错误:Unable to initialize MapOutputCollector org.apache.hadoop.mapred.MapTask$MapOutputBufferjava.lang.NullPointerException at org.apache.hadoop.mapred.M原创 2017-12-29 16:13:08 · 3280 阅读 · 0 评论 -
使用spark写数据到Hbase的三种方式
方式一:直接使用HBase Table的PUT方法import org.apache.hadoop.hbase.{HBaseConfiguration, TableName}import org.apache.hadoop.hbase.client.{ConnectionFactory, Put, Table}import org.apache.hadoop.hbase.util.B...原创 2018-09-06 17:44:52 · 12200 阅读 · 6 评论 -
【转】HBase查询报错:java.lang.NoClassDefFoundError:org.apache.hadoop.hbase.util.ByteStringer
https://blog.youkuaiyun.com/microGP/article/details/81705820环境信息:Hadoop 2.7.2+HBase 1.2.2现象:下午前端的同事使用scan查询HBase数据,代码执行到Table.getScanner(scan)方法时卡住了,无法返回结果直到超时,查看控制台,出现如下报错:java.lang.NoClassDefFo...转载 2019-05-23 14:28:56 · 645 阅读 · 0 评论