Hive参数调整详细

for your wish

已于 2022-06-17 11:42:02 修改

阅读量2.5k

点赞数

CC 4.0 BY-SA版权

文章标签： hive hadoop big data

于 2021-11-08 14:46:27 首次发布

本文链接：https://blog.youkuaiyun.com/someInNeed/article/details/121207636

Hive 专栏收录该内容

55 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文深入探讨了Hive的参数调整，旨在提升大数据处理效率。内容包括内存设置、执行引擎优化、并行操作配置等方面，帮助读者掌握Hive在Hadoop集群上的高效运行策略。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

--压缩配置：
--  map/reduce 输出压缩（一般采用序列化文件存储）
set hive.exec.compress.output=true;
set mapred.output.compression.codec=org.apache.hadoop.io.compress.GzipCodec;
set mapred.output.compression.type=BLOCK;
 
--任务中间压缩
set hive.exec.compress.intermediate=true;
set hive.intermediate.compression.codec=org.apache.hadoop.io.compress.SnappyCodec;
set hive.intermediate.compression.type=BLOCK;
 
--优化
set hive.exec.dynamic.partition.mode=nonstrict;--设置非严格模式
set hive.exec.dynamic.partition=true;--设置动态分区
set hive.exec.max.dynamic.partitions.pernode=1000;--设置动态分区每个节点最多可划分为多少个分区
set hive.exec.max.dynamic.partitions=2000;--设置动态分区时的分区最大数量
set mapred.reduce.tasks = 20;--设置reduce的任务数量，可用于优化插入分区表时的执行效率
set hive.exec.reducers.max=100;--设置reduce最大数量
set spark.executor.cores=4;--设置每个executor用的core
set spark.ex