mapreduce从hbase大量读数据超时异…

最新推荐文章于 2022-05-17 10:18:43 发布
原创 最新推荐文章于 2022-05-17 10:18:43 发布 · 2.2k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了HBase在进行scan操作时出现超时异常的原因及解决办法，通过调整相关参数来提高系统的稳定性和效率。
错误描述：
16/05/06 19:56:13 INFO mapreduce.Job: Task Id : attempt_1461653563167_0008_m_000001_2, Status : FAILED
Error: org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=36, exceptions:
Fri May 06 19:55:05 CST 2016, null, java.net.SocketTimeoutException: callTimeout=60000, callDuration=60302: row '' on table 'solway_data_pv' at region=solway_data_pv,\x00\x12\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00,1462414827453.d8f26eae36431b4aa0a1c834dc8fd9d8., hostname=solway-online10,60020,1462432265703, seqNum=2753

        at org.apache.hadoop.hbase.client.RpcRetryingCallerWithReadReplicas.throwEnrichedException(RpcRetryingCallerWithReadReplicas.
        at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas.call(ScannerCallableWithReplicas.
        at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas.call(ScannerCallableWithReplicas.
        at org.apache.hadoop.hbase.client.RpcRetryingCaller.callWithoutRetries(RpcRetryingCaller.
        at org.apache.hadoop.hbase.client.ClientScanner.call(ClientScanner.
        at org.apache.hadoop.hbase.client.ClientScanner.next(ClientScanner.
        at org.apache.hadoop.hbase.mapreduce.TableRecordReaderImpl.nextKeyValue(TableRecordReaderImpl.
        at org.apache.hadoop.hbase.mapreduce.TableRecordReader.nextKeyValue(TableRecordReader.
        at org.apache.hadoop.hbase.mapreduce.TableInputFormatBase$1.nextKeyValue(TableInputFormatBase.
        at org.apache.hadoop.mapred.MapTask$NewTrackingRecordReader.nextKeyValue(MapTask.
        at org.apache.hadoop.mapreduce.task.MapContextImpl.nextKeyValue(MapContextImpl.
        at org.apache.hadoop.mapreduce.lib.map.WrappedMapper$Context.nextKeyValue(WrappedMapper.
        at org.apache.hadoop.mapreduce.Mapper.run(Mapper.
        at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.
        at org.apache.hadoop.mapred.MapTask.run(MapTask.
        at org.apache.hadoop.mapred.YarnChild$2.run(YarnChild.
        at 
        at 
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.
        at org.apache.hadoop.mapred.YarnChild.main(YarnChild.
Caused by: java.net.SocketTimeoutException: callTimeout=60000, callDuration=60302: row '' on table 'solway_data_pv' at region=solway_data_pv,\x00\x12\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00,1462414827453.d8f26eae36431b4aa0a1c834dc8fd9d8., hostname=solway-online10,60020,1462432265703, seqNum=2753
        at org.apache.hadoop.hbase.client.RpcRetryingCaller.callWithRetries(RpcRetryingCaller.
        at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas$RetryingRPC.call(ScannerCallableWithReplicas.
        at org.apache.hadoop.hbase.client.ScannerCallableWithReplicas$RetryingRPC.call(ScannerCallableWithReplicas.
        at 
        at 
        at 
        at 
Caused by: java.io.IOException: Call to solway-online10/60.12.10.20:60020 failed on local exception: org.apache.hadoop.hbase.ipc.CallTimeoutException: Call id=5, waitTime=60001, operationTimeout=60000 expired.
        at org.apache.hadoop.hbase.ipc.RpcClientImpl.wrapException(RpcClientImpl.
        at org.apache.hadoop.hbase.ipc.RpcClientImpl.call(RpcClientImpl.
问题原因：HBase有很多超时机制，本次报错应当是RPC超时引起的
解决方案：一般HBase进行scan读的时候，超时异常，可根据实际情况适当调整如下参数解决：
set mapreduce.task.timeout=
1200000
set 
hbase.client.scanner.timeout.period=600000
set 
hbase.rpc.timeout=600000
其中，
hbase.client.scanner.timeout.period和
hbase.rpc.timeout最好配置一样大
大数据领域HBase的数据倾斜问题解决之道
AGI×大数据，开启智能时代的认知跃迁；解码AGI，赋能数据驱动的智能革命。
06-28 680
本文旨在全面解析HBase数据倾斜问题，提供从理论到实践的完整解决方案。涵盖范围包括数据倾斜的成因分析、诊断方法、解决方案以及预防措施。文章首先介绍HBase基础架构和数据倾斜概念，然后深入分析问题成因，接着提供多种解决方案，最后通过实际案例展示应用效果。Region：HBase中数据分片的基本单位：负责管理多个Region的服务进程RowKey：HBase表中行的唯一标识符热点：访问频率远高于平均水平的Region或数据fill:#333;color:#333;color:#333;
用MapReduce把hdfs数据写入HBase中
Java海洋
03-01 5692
1.使用Map+Reduce方式 public class MapReduceImport { /** * Mapper */ static class HMapper extends MapperLongWritable, Text, LongWritable, Text> { Text v2 = new Text();
MapReduce设置参数防止超时
石头视角
10-10 4082
1. 如果碰到异常“Task attempt failed to report status for xxx seconds. Killing!”，最可能是碰到死循环了。 2. 如果没有死循环：控制超时的属性是：mapred.task.timeout，默认600000ms，即600s。可以设置成更大的值。可以直接在Jobconf或Configuration中修改（只对本Job起作用），也可以修改
hadoop map端的超时参数
weixin_30750335的博客
11-15 408
目前集群上某台机器卡住导致出现大量的Map端任务FAIL，当定位到具体的机器上时，无法ssh或进去后terminal中无响应，退出的相关信息如下： [hadoop@xxx ~]$ Received disconnect from xxx: Timeout, your session not responding. 任务执行失败的错误日志： AttemptID:attem...
Hbase遇到的问题
Samooyou的博客
05-17 2104
1、CallTimeoutExceptionj Caused by: java.net.SocketTimeoutException: callTimeout=60000, callDuration=60101: Call to host:60020 failed on local exception: org.apache.hadoop.hbase.ipc.CallTimeoutException: Call id=51265499, waitTime=60001, operationTimeout=6
HBase MapReduce Job 某些节点随机慢的问题的研究
colorant的专栏
01-16 3891
这段时间在做HBase的MR Scan的时候遇上了一个Random Lag behind Task的问题，花了很长时间Trouble shooting，其间使用各种工具，脚本profile了各种参数，过程大致Share如下，很长，有兴趣的同学随便看看,一开始用英文写的，太长，懒得用中文再写一遍了:   === Environment ===   1 master node + 4
hbase_使用中遇到的问题（CallTimeoutException）
热门推荐
子龙修仙的博客
05-21 2万+
1. CallTimeoutException Caused by: java.net.SocketTimeoutException: callTimeout=60000, callDuration=139094: row '' on table 'hbase:meta' at region=hbase:meta,,1.1588230740, hostname=hykj-slave-4,60040...
MapReduce-HBase 新老集群迁移引发的对scan timeout思考
u010737756的博客
01-25 784
lease exception: 租约的有效期由hbase-site中参数hbase.regionserver.lease.period确定，默认的租约有效时间是60000ms，一分钟 在1.1版本后，hbase.regionserver.lease.period改为hbase.client.scanner.timeout.period
使用mapreduce 将hdfs中的数据导入到到hbase 中
Ynzo的博客
12-10 1018
package hbase; import java.text.SimpleDateFormat; import java.util.Date; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.client.Put; import org.apache.hadoop.hbase.mapre...
MapReduce over HBase Snapshot
fantuanbaba的博客
11-26 835
背景        工作中有很多使用HBase作为批处理源和目标的场景。之前已经做过很多优化措施，基本原则就是减少对RegionServer的影响，特别是降低RegionServer GC的时间，比如写入时先写HFile再BulkLoad、使用Filter尽量只读取需要的行和列、使用G1GC等等。但是读取HBase表数据要通过RegionServer的堆，在大批量处理的程序中可能会带来长时间GC...
Mapreduce生成Hfile文件，加载到hbase问题汇总
争当鲲鹏飞万里 不做燕雀恋子巢
03-28 2509
Hfile在hbase表中的底层数据形式：默认default下面 1、Can't get master address from ZooKeeper; znode data == null hbase(main):001:0> list TABLE ...
MapReduce 操作 Hbase
m0_55834564的博客
04-25 2261
目录 1.hbase建表 2.创建数据 3.导入依赖 4.写map和job 5.输出结果 6.虚拟机查询 1.hbase建表 hbase(main):002:0> create 'emp','info' 0 row(s) in 1.7460 seconds => Hbase::Table - emp 2.创建数据 [root@hadoop dool]# vim emp.txt 1201,gopal,manager,50000,TP 1202,manisha,.
hive集成hbase时，关于找不到jar包的问题，org/apache/hadoop/hbase/mapreduce/TableInputFor matBase
lzyilzy的博客
04-02 3762
hive和hbase集成，启动hive进行创建外部表和相关的操作报错，查看log报出少jar的信息，首先你要搞明白是哪里缺jar包。 1. hadoop的配置没有添加hbase的路径，在hadoop的配置文件hadoop-env.sh中添加以下2个配置： 2.由于hive执行DDL等数据库操作会调用hbase的jar包，所以在hive的配置文件中添加hbase的jar路径，在hive...
Hbase2 没有org.apache.hadoop.hbase.mapreduce.TableInputFormat
SuCicada 小米的蝉
02-25 2737
导入 <dependency> <groupId>org.apache.hbase</groupId> <artifactId>hbase-mapreduce</artifactId> <version>${hbase.version}</version> </dependency> 参考链接：https://juejin.cn/post/68449039595853
应用程序连接hbase报错：java.net.SocketTimeoutException: callTimeout=60000
weixin_34189116的博客
02-27 4164
背景说明： 　　今天对生产环境hbase增加了节点，下午的时候一个同事反馈，应用程序后台报错，如下： Tue Feb 26 17:35:35 CST 2019, null, java.net.SocketTimeoutException: callTimeout=60000, callDuration=68451: row 'SYSTEM.CATALOG,TARGETCUST_DATA,9...
HBase使用Java Api连接异常
wangzili1995的博客
11-25 1299
）问题：JAVA api 远程hbase出错 org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=36, exceptions: Tue Jul 19 16:36:05 CST 2016, null, java.net.SocketTimeoutException: callTimeout=...
【完美解决】- 使用JavaApI 连接查询HBASE 出现 java.net.SocketTimeoutException: callTimeout=60000
兀坐晴窗独饮茶
05-28 1万+
1.报错 org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=36, exceptions:Tue May 28 08:16:11 CST 2019, null, java.net.SocketTimeoutException: callTimeout=60000, callDuratio...
hbase 统计表数据量的方法
最新发布
09-17
<think> 我们正在讨论HBase统计表数据量的方法。根据用户提供的引用和之前的问题，用户已经了解了几种方法： 1. HBase Shell的count命令：适合小数据量，但延时较高。 2. MapReduce方式（RowCounter）：适合大数据量，但执行时间较长。 3. 使用协处理器（Coprocessor）的方法：通过添加协处理器来统计行数。 4. 使用Java API通过RegionMetrics统计（这是之前回答中提到的）。 用户现在的问题是：我想查找HBase统计表数据量的方法。请问HBase统计表数据量的方法？ 根据引用，我们可以总结如下： 引用[1]提到两种方法： - Shell命令：`count '表名', INTERVAL => 间隔条数`，适合小数据量，但较高延时。 - MapReduce任务：`hbase org.apache.hadoop.hbase.mapreduce.RowCounter 表名`，适合大数据量，但需要等待较长时间。 引用[2]补充了RowCounter的执行原理（MapReduce）和结果查看方式（打印在控制台或日志文件中）。 引用[3]和[4]提到了使用协处理器（Coprocessor）来统计表数据量，但需要配置协处理器并加载到表中。 结合之前的回答，我们还介绍了使用Java API通过RegionMetrics来统计行数（高效，但可能是近似值）。 因此，我们可以将统计方法归纳为四类： 1. HBase Shell的count命令 2. MapReduce方式（RowCounter） 3. 使用协处理器 4. Java API（通过Admin.getRegionMetrics） 现在，我们给出一个清晰的回答，涵盖这四种方法，并说明适用场景。 </think> ### HBase 统计表数据量的方法总结 以下是 HBase 中统计表数据量的主要方法，根据场景需求选择合适方案： #### 1. **HBase Shell 命令（小数据量）**[^1] ```shell # 基础命令（全表扫描，效率低） count 'table_name' # 添加采样间隔（推荐） count 'table_name', INTERVAL => 100000 # 每10万行输出一次进度 ``` - **适用场景**：数据量较小（< 千万级）的测试环境 - **特点**： - 简单易用，直接执行 - 全表扫描导致高延迟（大数据量可能超时） - 结果实时显示在 Shell 中 #### 2. **MapReduce 方式（大数据量）**[^1][^2] ```shell hbase org.apache.hadoop.hbase.mapreduce.RowCounter 'table_name' ``` - **适用场景**：亿级数据量的生产环境 - **特点**： - 基于 MapReduce 分布式计算 - 结果输出到控制台或日志文件（如 `hbase.log`） - 执行时间长（需等待 MapReduce 作业完成） - **精确统计**，适合审计等场景 #### 3. **Java API 区域指标统计（高效近似值）** ```java // 核心代码片段 try (Admin admin = connection.getAdmin()) { List<RegionInfo> regions = admin.getRegions(TableName.valueOf("table_name")); long totalRows = 0; for (RegionInfo region : regions) { RegionMetrics metrics = admin.getRegionMetrics(region.getRegionName()); totalRows += metrics.getRowCount(); // 获取Region行数 } System.out.println("总行数: " + totalRows); } ``` - **适用场景**：需要快速获取数据量概览 - **特点**： - 毫秒级响应（直接读取 RegionServer 内存指标） - 结果为**近似值**（因指标异步更新） - 支持扩展统计： ```java metrics.getStoreFileSize(); // 存储大小 metrics.getReadRequestCount(); // 读请求数 metrics.getCellCount(); // 单元格总数 ``` #### 4. **协处理器（Coprocessor）**[^3][^4] ```java // 配置协处理器（需提前部署Jar） Configuration conf = HBaseConfiguration.create(); conf.setLong("hbase.client.scanner.caching", 1000); // 优化扫描缓存 addCoprocessor(conf, "table_name", "mycoprocessor.SampleCoprocessor"); ``` - **适用场景**：需要实时统计或复杂聚合 - **特点**： - 在 RegionServer 端并行计算 - 可实现条件过滤统计（如特定列族） - 部署复杂，需修改表结构： ```shell alter 'table_name', METHOD => 'table_att', 'coprocessor' => 'hdfs://path/to/jar|com.example.Coprocessor|1001|' ``` ### 方案对比 | 方法 | 精度 | 速度 | 适用场景 | 复杂度 | |---------------------|------------|----------|------------------------------|--------| | Shell `count` | 精确 | 慢 | 小数据测试 | ★☆☆☆☆ | | MapReduce RowCounter| 精确 | 极慢 | 大数据审计 | ★★★☆☆ | | Java RegionMetrics | 近似 | 极快 | 实时监控/概览 | ★★☆☆☆ | | 协处理器 | 精确/条件 | 中等 | 复杂聚合/条件统计 | ★★★★★ | > **最佳实践**： > - 日常监控用 `RegionMetrics`（效率优先） > - 数据审计用 `RowCounter`（精度优先） > - 避免 Shell 命令统计超大数据集
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值