hive中的 数组越界异常 IndexOutOfBoundsException

本文详细解析了在使用Hive进行大规模数据处理时遇到的一种常见异常情况:在关闭操作符时引发的RuntimeException,具体为IndexOutOfBoundsException。通过示例查询语句,分析了问题原因,并给出了避免在group by子句中重复使用count(distinct)字段的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

java.lang.RuntimeException: Hive Runtime Error while closing operators
	at org.apache.hadoop.hive.ql.exec.ExecMapper.close(ExecMapper.java:226)
	at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:57)
	at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:418)
	at org.apache.hadoop.mapred.MapTask.run(MapTask.java:333)
	at org.apache.hadoop.mapred.Child$4.run(Child.java:268)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:415)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1408)
	at org.apache.hadoop.mapred.Child.main(Child.java:262)
Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: java.lang.IndexOutOfBoundsException: Index: 10, Size: 10
	at org.apache.hadoop.hive.ql.exec.GroupByOperator.closeOp(GroupByOperator.java:1024)
	at org.apache.hadoop.hive.ql.exec.Operator.close(Operator.java:557)
	at org.apache.hadoop.hive.ql.exec.Operator.close(Operator.java:566)

at org.apache.hadoop.hive.ql

执行语句:

select user_id,indu_cd,brand_cd,prd_cd,media_cd,reg_cd,prov_cd,city_cd,sys_type,count(user_id) as user_pv_cnts,count(distinct(user_id)) as user_cnts,pt_date from act_inter_sh_tele_pc where pt_date=20150628 and pt_hour = 06   group by user_id,indu_cd,brand_cd,prd_cd,media_cd,reg_cd,prov_cd,city_cd,sys_type,pt_date

https://issues.apache.org/jira/browse/HIVE-4237 网站上的解释

在select中使用count(distinct 字段)对在后面的group by字段中的字段 不能重复

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值