HIVE如何优化

a）MapJoin 如果不指定MapJoin或者不符合MapJoin的条件，那么Hive解析器会将Join操作转换成Common Join， 即：在Reduce阶段完成Join。容易发生数据倾斜。可以用MapJoin把小表全部加载到内存在map端进 行Join，避免Reducer处理。

b）行列过滤

列处理：在SELECT中，只拿需要的列，如果有，尽量使用分区过滤，少用SELECT *。

行处理：在分区剪裁中，当使用外关联时，如果将副表的过滤条件写在Where后面，那么就会先全表关 联，之后再过滤。

c）采用分桶技术

d）采用分区技术

e）合理设置Map数

1）通常情况下，作业会通过Input的目录产生一个或者多个Map任务。主要的决定因素有：

        Input的文件总个数，Input的文件大小，集群设置的文件块大小。

2）是不是map数越多越好？

        答案是否定的。如果一个任务有很多小文件（远远小于块大小128m），则每个小文件也会被当做一 个块，用一个Map任务来完成，而一个Map任务启动和初始化的时间远远大于逻辑处理的时间，就会造成很大 的资源浪费。而且，同时可执行的Map数是受限的。

3）是不是保证每个Map处理接近128m的文件块，就高枕无忧了？

        答案也是不一定。比如有一个127m的文件，正常会用一个Map去完成，但这个文件只有一个或者 两个小字段，却有几千万的记录，如果Map处理的逻辑比较复杂，用一个Map任务去做，肯定也比较耗时。 • 针对上面的问题2和3，我们需要采取两种方式来解决：即减少Map数和增加Map数；

f）小文件进行合并在Map执行前合并小文件，减少Map数：CombineHiveInputFormat具有对小文件进行合并的功能（系 统默认的格式）。HiveInputFormat没有对小文件合并功能。

g）合理设置Reduce数 • Reduce个数并不是越多越好

1）过多的启动和初始化Reduce也会消耗时间和资源；

2）另外，有多少个Reduce，就会有多少个输出文件，如果生成了很多个小文件，那么如果这些小文件 作为下一个任务的输入，则也会出现小文件过多的问题；在设置Reduce个数的时候也需要考虑这两个原则： 处理大数据量利用合适的Reduce数；使单个Reduce任务处理数据量大小要合适；

h）常用参数

// 输出合并小文件

SET hive.merge.mapfiles = true; -- 默认true，在map-only任务结束时合并小文件

SET hive.merge.mapredfiles = true; -- 默认false，在map-reduce任务结束时合并小文件

SET hive.merge.size.per.task = 268435456; -- 默认256M

SET hive.merge.smallfiles.avgsize = 16777216; -- 当输出文件的平均大小小于该值时，启动 一个独立的Map-Reduce任务进行文件Merge

(注:引自"面试真题",非原创,无链接)