hive 动态分区(Dynamic Partition)异常处理 [Error 20004]

原创于 2019-05-12 17:29:45 发布 · 1.4k 阅读

1 ·

CC 4.0 BY-SA版权

大数据学习同时被 2 个专栏收录

57 篇文章

订阅专栏

Hive学习

42 篇文章

订阅专栏

本文解决在Hive中使用动态分区导入数据时遇到的执行错误问题，通过调整hive.exec.max.dynamic.partitions和hive.exec.max.dynamic.partitions.pernode参数的值，成功解决了因动态分区数量过多导致的数据导入失败。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在hive中创建动态分区，将数据导入的过程中，出现的问题：数据导入失败

FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask

这个问题主要原因就是动态分区的数量没有达到要求，应该分区的数量设置多一些

Your Hive job tried to create too many dynamic partitions on a node, exceeding the current limits. The number of dynamic partitions is controlled by the settings forhive.exec.max.dynamic.partitions and hive.exec.max.dynamic.partitions.pernode. The default is 100 dynamic partitions on a single node, with a limit of 1000 overall.

设置一下：

SET hive.exec.dynamic.partition=true;
SET hive.exec.max.dynamic.partitions=2048;
SET hive.exec.max.dynamic.partitions.pernode=256;

完美解决：