HBase:Multiple regions have the same startkey,There is an overlap in the region chain.问题详解

hbase快照同步到目标集群出现ERROR Multiple regions have the same startkey问题分析 源集群表split过程中创建快照,该快照同步到目标集群,目标集群恢复快照后,进行hbck检查,就会出现异常报错: ERROR Multiple regions have the same startkey;首先,出现上述问题可能有如下两种原因: 1.源集群中snapshot表本身就存在这种问题,没有修复就执行snapshot,导出快照到目标集群,然后恢复表也会存在这种问题。 2.在执行split/merge的同时执行了snapshot,若此时子region上线但父region还没下线,这样 阅读详情

环境信息:

Hadoop 2.7.2+HBase 1.2.2

现象:

HBase重启后运行hbase hbck报错:

Multiple regions have the same startkey:XXXX

There is an overlap in the region chain.

问题分析:

1、HBase在重启之后由于某些原因一部分region未分配成功而上线失败,执行HBase hbck -FixMeta后,HBase自动将缺失的Region尝试进行修复(可能未成功),再次重启后,原来的Region又可以上线了,就导致两个Region含有共同的startkey

2、由于HBase Region的startkey与endkey是唯一且连续的,所以当出现不同Region有相同的startkey后,就引发了There is an overlap in the region chain问题

问题分析:

1、根据startkey找到相关的region

2、发现两个Region都上线成功了,此时需要判断到底哪个Region是HBase修复时产生的,此处需要查询HBase的meta表:"hbase:meta"进行确认,图示的后三个region都有可能是受影响的Region,通过查询可以得到以下信息,进入hbase shell,执行命令:get ‘hbase:meta’,‘tracklog_2018,1670a307153,1532330661852.24440cf42a91eb7745b697e03ea751f2.’(该region数据rowkey的组成为:表名,Region的startkey,Region创建时的timestamp,Region的ID,此处可以直接得到Timestamp的值,也可以去meta表里查询,理论上来说两者是一样的),将三个Region的数据都进行查询(注:由于HBase的WEB页面Region的名称是将HBase中的数据转化为字段串得来的,所以Region名称中如果有特殊字符无法直接使用命令查询,需要进行转义或者借助Java代码进行操作),结果如下:

此处我通过timestamp的值进行比较,此为数据生成时间,发现上下两个都是刚刚的同一时间产生的,而中间一个是很久之前生成的,基本可以判定上下两个region为后生成的region。

此处可以去HDFS上的HBase文件中进行确认,hadoop fs -du -s -h /hbase/data/default/tracklog_2018/24440cf42a91eb7745b697e03ea751f2(Region的ID),执行三次,发现旧的region的大小正好等于新创建的两个region大小的总和,进一步确认了关系

问题解决:

1、通过hbase shell或者java客户端删除有问题的hbase:meta表中的数据,该例子中为两条数据,千万小心别删错了

2、执行stop-hbase.sh停掉hbase

3、去hdfs上删除有问题region对应的hdfs目录

4、使用start-hbase.sh启动hbase

5、使用hbase hbck查看hbase的状态,状态为OK,问题解决(第一个startkey相同的问题解决了,第二个问题自动就解决了)

 

hbase2.x orphan regions on filesystem(region丢失)问题修复 hbase2.x orphan regions on filesystem 在region上线后很容易产生region重叠(region overlap)问题,也就是region范围发生了交叉。使用assigns操作将检查出来未上线的region上线,一次可以上线多个region,用空格隔开,如果返回不是[-1],说明上线成功。第一种方法如果失败,可以尝试这个方法,他会将指定region目录下的所有数据导入到指定的表中。1、使用hbck2修复工具指定region上线。 阅读详情

相关推荐

常学常新:《Attention Is All You Need》万字解读!

常学常新:《Attention Is All You Need》万字解读!

hunteritself的博客 3639

HBase1.x运维:Multiple regions have the same endkey报错处理

微信公众号:大数据开发运维架构 关注可了解更多大数据相关的资讯。问题或建议,请公众号留言; 如果您觉得“大数据开发运维架构”对你有帮助,欢迎转发朋友圈 从微信公众号拷贝过来,格式有些错乱,建议直接去公众号阅读 软件版本: hadoop2.7.3 hbase1.2.5 zookeeper3.4.6 1.问题描述: 生产HBase集群由于批量导入20亿数据...

陆继森的技术专栏 1681

移动通信基础(13)TDL、CDL、信道相关性

参考《U型槽无线信道多径传播特性测量与建模方法的研究》、《5G信号源中的信道模拟与仿真研究》衰落衰落理解为信号幅度在时间和频率上的不断波动,是无线信道一个重要的恶化特性。信道幅度恶化的两个主要来源分别是加性噪声和信号衰落,高斯白噪声信道模型就是典型的加性噪声,信号衰落引起的是乘性的信号扰动,与加性噪声从原理上完全不同。信道的频率选择性衰落组为无线信道的重要特征之一,是人们进行无线系统设计考虑的重要因素,决定了导频隔间的大小。...

tybAly的博客 2万+

第二次尝试修复Hbase2出现Region不一致,使用 HBCK2 - 2021.11.15

spark任务中入hbase任务全部失败了,查看日志发现hbase出现问题 报错日志: 在hbase的log中看到报错 Call queue is full on xxxx,16000,1611197476326, too many items queued 修改了配置文件,增加了队列数量 参数说明:https://hijiazz.gitee.io/hbase-callqueue-isfull/ 并且zookeeper好像挂掉了,后来重启zk。 然后重启hbase后出现了region不一致的情况。 尝试

chun的博客 4804

Windows上python的spark环境搭建

1.安装好JDK 下载并安装好jdk-12.0.1_windows-x64_bin.exe,配置环境变量: 新建系统变量JAVA_HOME,值为Java安装路径 新建系统变量CLASSPATH,值为 .;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar;(注意最前面的圆点) 配置系统变量PATH,添加 %JAVA_HOME%bin;%JAVA_HOME%jrebin 在CMD中输入:java或者java -version,不显示不是内部命令等,说明安装成功。

weixin_43915303的博客 650

Gröbner基方法入门第I部分:项序和约化

Gröbner基方法入门第I部分:项序和约化 理想的准素分解与矩阵分解是计算代数的核心问题,它们在计算机代数、计算代数几何、代数编码和密码学、多维系统理论等学科都有非常重要的理论意义与应用价值.Gröbner基理论是研究理想的准素分解与矩阵素分解的重要工具之一.更简单地概括:Gröbner基方法是从任意一个多项式理想的一组给定生成元,计算另一组性质良好的生成元,并称为该理想的Gröbner基.它能用来判定任意多项式是否属于该理想. Gröbner基的代数算法是Buchberger在1960年代开发的,并

MinCong Luo的博客 4256

【HBASE】记一次HBase进行数据迁移,重建元数据

hbase生产集群大量永久RIT无法修复,为保证查询,迁移数据到小集群

Meepoljd的博客 1745

GPT大模型在数学建模中的实战应用:从思路启发到代码生成

数学建模是将现实问题抽象为数学问题并求解的核心方法,其关键在于通过合理的假设与简化,构建可计算的数学模型。传统建模依赖MATLAB等工具进行推演试错,而大语言模型的出现革新了这一范式。GPT等模型通过理解自然语言、辅助逻辑推理与代码生成,能有效提升建模效率与质量,在问题解析、模型构建、算法实现等环节提供关键支持。本文聚焦GPT在数学建模中的具体应用,涵盖赛题解读、模型推导、代码生成与结果分析,并结合实战案例,探讨如何将其作为“副驾驶”融入建模全流程,实现人机协同的智能化建模。

weixin_29061465的博客 322

There is an overlap in the region chain

ERROR: (regions day_hotstatic,860010-2355010000_20140417_12_entry_00000000321,1398674475358.0dc205736ec1e890bd2d37a2e3220acc. and day_hotstatic,860010-2368000000_20140413_14_visit_00000001964,14000607

数据之路 3900

手把手教你用GD32F407VET6的EXMC驱动外部SRAM,搞定大内存需求

本文详细介绍了如何使用GD32F407VET6的EXMC外设驱动外部SRAM,解决嵌入式开发中的大内存需求问题。通过硬件连接方案、EXMC时序配置与初始化步骤,以及软件集成与内存管理技巧,帮助开发者快速实现内存扩展。特别适合需要处理图形显示缓冲、音频处理等大内存场景的GD32F407开发者。

weixin_30752699的博客 345

TJA1445/TJA1465 CAN收发器硬件设计与软件配置实战指南

控制器局域网(CAN)总线是汽车电子和工业控制领域实现电子控制单元(ECU)间可靠通信的核心技术。其工作原理是将数字信号转换为差分信号进行抗干扰传输,技术价值在于构建稳定、高效的分布式实时控制系统。随着汽车电子架构向域集中式演进,对CAN总线的通信速率、网络复杂度和静态功耗提出了更高要求,这催生了支持CAN FD协议和智能电源管理的新一代高速CAN收发器。在车载网关、域控制器及工业网络节点等应用场景中,NXP的TJA1445和TJA1465系列收发器凭借其部分组网(Partial Networking)和选

weixin_29655587的博客 405

There is an overlap in the region chain修复

ERROR: (region day_hotstatic,860010-2355010000_20140417_12_entry_00000000321,1400060700465.fda3b0aca340570aeb64410c97e3cb73.) Multiple regions have the same startkey: 860010-235501000...

weixin_33909059的博客 142

B站评论情感分析实战:Python批量爬取+BERT正负向分类,精准度92%(附完整代码)

用技术手段自动化挖掘用户真实情感,比人工分析更高效、更客观。这套方案的精度能稳定在90%左右,完全满足实际应用需求。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 1025

hbck源码系列(四)--表的完整性检查和修复

一,完整性检查 1检查表在HDFS的完整性 二.checkRegionChain方法 完整性检查,主要检查工作在checkRegionChain方法,该方法主要两个作用: 1.根据检查条件,检查异常 2.根据检查条件,修复异常 检查条件和异常都指什么? 2.1异常 @Override public void handleR...

mnasd的博客 760

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

记一次HBase无法正常启动,长时间RIT, 修复meta元数据不一致的问题

*步骤7:**hbase hbck -fixAssignment 把这些offline的region触发上线,当region开始重新open上线的时候,会被重新分配到真实的RegionServer上 , 并更新meta表上对应的行信息。**步骤6:**hbase hbck -fixMeta 修复meta表信息,利用regioninfo信息,重新生成对应meta row填写到meta表中,并为其填写默认的分配regionserver。进入HDFS 文件系统查看HBase的目录,原先的表数据都还在。

weixin_47720251的博客 1094

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

记录一次HBase异常处理过程

记录一次HBase异常处理过程,包括HDFS数据问题、MetaData问题、regions重叠问题、表数据不一致

小陌成长之路 1572

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

hbase表修复

场景 opentsdb启动报错 grep -i error /tmp/opentsdb.log 2020-10-13 12:19:41,098 INFO [main-SendThread(localhost:2181)] ClientCnxn: Opening socket connection to server localhost/127.0.0.1:2181. Will not attempt to authenticate using SASL (unknown error) 2020-10-13

weixin_40548182的博客 5867

Spark 某两个节点数据分析速度慢 - hbase数据删除(分裂) 元信息未删除导致 There is an overlap in the region chain.

基于Hbase2.0,Spark2.2 问题描述 执行Spark处理Hbase数据时,遇到某两个Excutor处理速度特别慢,如图 正常速度10多分钟 左右处理完成, 一个多小时有另外一个处理完成,还有一个在处理中。 分析原因 1.查看hbase数据分布状况,看看是否存在数据倾斜问题,可以看出平均为6.8G左右,但有部分数据是1.71GB和3.4GB左右,但之前任务跑spark是...

jast 1万+

通过phoenix创建hbase表失败,创建语句卡住,hbase-hmaster报错:exception=org.apache.hadoop.hbase.TableExistsException: S...

问题描述:   前几天一个同事来说,通过phoenix创建表失败了,一直报表存在的错误,删除也报错,然后就针对这个问题找下解决方案. 问题分析: 1.通过phoenix创建表,一直卡住不动了.创建语句如下: CREATE TABLE SYNC_BUSINESS_INFO_BYDAY_EFFECT( ID VARCHAR, DAY_ID VARCHAR, PROV_ID VARCH...

weixin_33779515的博客 994

hbase2.x HBCK Report Region Holes & Overlaps问题修复

在 Usage 说明中能看到 fixMeta 能够修复 ‘holes’,‘overlaps’ 等 region 问题,也就是确保表里的所有 region 都是 OPEN 状态再进行此操作,确保不会对集群造成额外的影响。解决方法和上面的 holes 一样,需要注意的是也要保证所有的 region 状态正常处于OPEN。等待一段时间,这个过程可以监控 master 日志,如果一切顺利问题就解决啦。最下面红框内展示了哪两个 region 存在重叠问题。【解决 region 目录为空问题】

DraGon_HooRay的博客 1682

hbase查看表结构_HBase 运维HBase Region 重叠问题处理

最近某应用反馈HBase数据插入数据后、查询出现错误数据现象如下:有一行数据:前面时间T1:插入3列后面时间T2:插入1列(通过put新值来更新某列数据)scan操作只能看到 时间点T1的3列数据,get操作只能看到时间点T2的1列最新数据具体例子:有一行数据rowkey是591420001时间点T1:插入数据c1-c3 共3列,注意此时c2=2...

weixin_39803552的博客 459

查询hbase数据报错 found in META, but not in HDFS

解决方法: 1.hbase hbck 表名,是否有error错误 2.sudo -u hbase hbase -fixMeta 表名 3.再次执行第一步,错误消失

weixin_43015677的博客 1077

HBase 遇到的问题以及处理

每次合并后,如合并 A 和 C,HBase 将开始对 RegionD 进行压缩。这种场景下,和以上的处理方式相同,需要注意的是这Region进行Compact的时候不能合并成功,在hbase shell 进行合并后,可以观察HMaster的日志,如果最终可以合并成功,则不会出现error日志信息,如果遇到始终不能合并的Region,可以先尝试将此Region下线掉(unassign region),再次上线(assign region),再执行merge操作。可以看到属于该表的每个区域的开始键/结束键。

偶是一只小小鸟~ 2333

Hbase Hbck2修复工具介绍和实践

Hbase Hbck2修复工具介绍和实践,我们在Hbase 的使用过程中,我们可能遇到过因为:机房断电、机房断网、ZK或者HBase的GC时间过长等原因引发的一系列HBase不可用的问题,这些问题通常需要通过hbase-operator-tool(HBase集群修复工具)中的工具来解决

weixin_65782325的博客 4579
上一篇: 硬盘无法识别导致HDFS无法正常使用
下一篇: HBase节点掉线问题排查
梦回从前
博客等级 码龄18年 65粉丝 89原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值