笔记十二:Hive调优

参数配置优化

(1)配置Hive文件

具有全局性

a)用户自定义配置文件:$HIVE_CONF_DIR/hive-site.xml 

b)默认配置文件:$HIVE_CONF_DIR/hive-default.xml.template 
# 当用户自定义配置后,会覆盖默认配置

#因为Hive是作为Hadoop的客户端环境下启动,而Hive的配置会覆盖Hadoop的配置
#不推荐使用

(2)命令行参数配置

# 启动Hive时,在命令行添加-hiveconf param=value来设定参数
# 只要通过Beeline连接的这个hiveserver2的客户端都有效
# 但只在当前窗口下生效,一旦关闭窗口,则失效
hive --service hiveserver2 --hiveconf hive.root.logger=DEBUG,console

(3)设定参数声明(推荐使用 )

设定参数声明需要使用到set关键字

-- 查看
set mapreduce.job.reduces;
-- 设定reduce数量
set mapreduce.job.reduces = 3;

设定Fetch抓取策略

Hive默认自动优化了:Fetch抓取策略

在某些简单操作下避免走MapReduce程序,有效提升了执行效率

-- 设置Fetch本地抓取策略
hive
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值