
hadoop
xcc_233
遗忘才是告别吧
展开
-
HBase启动的问题,HRegionServer没有启动
发现问题正常情况下HBase的状态masternamenode resourcemanager datanode nodemanager hmaster hregionserver都有才算正常slave1HRegionServer没启动的话,HBase就没有正常启动slave2基本解决方案查看日志,哪里没起看哪里比如slave1的HRegionServer没有启动,就去slave1上hbase安装路径下的logs,看regionserver的日志,看哪里报错报错内容可能包括没有连上,原创 2020-09-15 17:03:11 · 7256 阅读 · 0 评论 -
HBase无法启动的问题,shell中list,create等命令报错;强制删除表的方法
利用importtsv向HBase批量插入数据在上一篇博文里用importtsv向HBase中批量插入了数据。用了一次之后就报错,报得错表面上看起来非常简单ServerNotRunningYetException: Server is not running yet百度了一下,有很多参考解决的方法比如https://blog.youkuaiyun.com/zw0283/article/details...原创 2020-03-25 14:35:30 · 2208 阅读 · 0 评论 -
利用importtsv向HBase批量插入数据
用importtsv处理,可以快速、批量导入数据,测试一下导入一百五十多万条的数据,一共只用了十几秒,非常快。缺点非常明显,这个文件要求是结构化的,也就是列要对齐,这个其实就丧失了NOSQL的特征,但是我只是做一下测试,其实可以做到结构化数据,所以用这个工具非常有效。步骤数据文件的结构大概是这样的数据文件上传到hdfs./hdfs dfs -put ~/D...原创 2020-03-24 09:34:50 · 529 阅读 · 0 评论 -
在HADOOP平台上运行MATLAB程序(Centos7系统)(standalone)
用mapreduce框架运行matlab示例程序,官网https://ww2.mathworks.cn/help/compiler/hadoop/example-on-running-a-standalone-matlab-mapreduce-application.html按照官网的步骤,基本上可以成功,但是运行的时候还是碰到了一些问题。首先要设置一个HADOOP_PREFIX的环境变量...原创 2018-10-12 18:42:36 · 1654 阅读 · 4 评论 -
centos7系统Hadoop集群搭建和简单使用,resource manager无法启动的问题
搭建过程:https://blog.youkuaiyun.com/pucao_cug/article/details/71698903非常详细的文章,感谢大神。根据步骤一步步来,不难,而且基本没有出错。碰到的唯一问题是装java的时候的问题,我的解决方案:https://blog.youkuaiyun.com/touziss/article/details/82859035启动hadoop以后,做个小实验熟悉...原创 2018-10-08 09:36:50 · 5233 阅读 · 0 评论 -
JAVA操作HBase
只是做一个小测试,看连接有没有问题。测试了创建表和删除表,对列族和行都没有操作。首先安装和启动Hadoop、HBase,网上很多教程。然后创建HBaseTest的JAVA工程,在工程下添加lib文件夹,把HBase安装目录下(比如我的是centos7系统,hbase安装在master上的/opt/hbase-1.2.7文件夹)把/opt/hbase-1.2.7/lib文件夹下的jar都拷贝...原创 2018-11-27 10:00:38 · 161 阅读 · 0 评论 -
HBase Coprocessor实现HBase二级索引
用Coprocessor实现HBase的二级索引,遇到了很多问题,记录一下首先本次的感想是:官方文档很重要!日志非常重要!!!用的数据是POES粒子通量数据,选取其中的位置信息,mag_lat_sat, mag_lon_sat,时间信息time,L值IGRF_L和B值Btot,以及各能段0度和90度方向质子和电子的粒子通量数据存储,row key是通过L、lat、lon计算出来的索...原创 2019-03-20 16:01:22 · 978 阅读 · 1 评论 -
测试HBase协处理器Coprocessor
官方介绍文档https://blogs.apache.org/hbase/entry/coprocessor_introduction写一个TestCoprocessor,计算一个Column Family的列对应的行数,遇到NullPointerException的问题stackflow的解决方案,rowCount有三个输入参量,TableName, ci和scan,ci直接置0不可...原创 2019-03-12 14:46:32 · 362 阅读 · 0 评论 -
在HADOOP平台上运行MATLAB程序(Centos7系统)(incorporate)
“遇到的任何解决不了的问题,只是因为你没有找到对的教程而已。”这边只是把我遇到的问题和找到的合适的教程整理一下。希望有帮助。感谢学习路上遇到个每一个认识或者不认识的大神之前写过一个教程,是standalone形式的,其实官网上还有一种是把map和reduce函数分别合并到hadoop的mapreduce的job里。这是是standalone的官方教程https://ww2.mathwork...原创 2019-07-14 13:53:55 · 1049 阅读 · 0 评论