hive常用参数

set hive.exec.dynamic.partition=true;  --#设置动态分区
set hive.exec.dynamic.partition.mode=nonstrict; --动态分区非严格模式
set hive.exec.max.dynamic.partitions.pernode=100000; --在每个执行MR的节点上,最大可以创建的动态分区
set hive.exec.max.dynamic.partitions=100000; --在所有执行MR的节点上,最大一共可以创建的动态分区
set mapreduce.map.memory.mb=4096; --一个Map Task可使用的内存上限(单位:MB)
set mapreduce.reduce.memory.mb=4096; --一个Reduce Task可使用的资源上限(单位:MB)
set hive.merge.size.per.task=256000000; --合并后文件的大小为256M左右
set hive.merge.mapfiles=true; --在Map-only的任务结束时合并小文件
set hive.merge.mapredfiles=true;  --在Map-Reduce的任务结束时合并小文件
set hive.merge.smallfiles.avgsize=256000000; --当输出文件的平均大小小于256M时,启动一个独立的map-reduce任务进行文件merge
set hive ngmr.partition.automerge=true;
set hive ngmr.partition.mergesize=100;
set hive ngmr.partition.mergesize.mb=128;
set hive inceptor.automerge.maptask=true;
set hive inceptor.smallfile.automerge=true
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值