hbase0.98暴力数据迁移方案

本文分享了在遇到HBase集群内存小、网速慢、虚拟机环境下导出大量数据失败的问题时,如何通过关闭集群、利用Hadoop进行数据迁移,并解决在目标环境中可能遇到的表操作问题的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

公司测试环境使用三台机器搭建了一个简单的集群,内存小,网速慢而且还是虚机.但是测试的时候还是保存了大量的数据.但是由于一些其他原因,造成数据只能在测试环境生成,不能在线上直接生成数据.所以就需要把数据从测试环境把数据导入到线上的HBase环境

    刚开始使用了HBase的Export与Import 的方式来做导出.

    好吧,虚机几百万的数据,总是失败..一直都是在报错误,找了好久都没找到原因.没办法只有想别的方法.

    折腾了两天搞定了导出的方式.


    1.    关闭HBase集群.

    2.    Hadoop上找到要导出的HBase表路径  如: 我的路径为:  /hbase/data/default/test

        170408_WqTK_1758422.jpg

    3.    从Hadoop把项目导入到本地环境

        170913_zVlF_1758422.jpg

    4.    然后通过硬盘或者其他把数据发送到另一套环境的hadoop HBase文件目录下. hbase/dta/default/test/   (HBase环境同样需要关闭,)

    5.    如果另一套也存在该表..(那我就不知道了,我当时是把那套环境的数据导出的.)

    6.    打开Hbase,现在就就可以在HBase shell命令下看到该表了.

    7.    执行    

hbase hbck -fixMeta

    8.    如果依然无法操作表.那么就执行

    

hbase hbck -fixAssignments(重新分区)

  

  大功告成    !


转载于:https://my.oschina.net/CainGao/blog/616502

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值