15 | Hive常见问题与错误

附录：常见错误及解决方案

1）连接不上MySQL数据库

（1）导错驱动包，应该把mysql-connector-java-5.1.27-bin.jar导入/opt/module/hive/lib的不是这个包。错把mysql-connector-java-5.1.27.tar.gz导入hive/lib包下。

（2）修改user表中的主机名称没有都修改为%，而是修改为localhost

2）Hive默认的输入格式处理是CombineHiveInputFormat，会对小文件进行合并。

hive (default)> set hive.input.format;

hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat

可以采用HiveInputFormat就会根据分区数输出相应的文件。

hive (default)> set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;

3）不能执行MapReduce程序

可能是Hadoop的Yarn没开启。

4）启动MySQL服务时，报MySQL server PID file could not be found! 异常。

在/var/lock/subsys/mysql路径下创建hadoop102.pid，并在文件中添加内容：4396

5）报service mysql status MySQL is not running, but lock file (/var/lock/subsys/mysql[失败])异常。

解决方案：在/var/lib/mysql目录下创建：-rw-rw----. 1 mysql mysql     5 12月 22 16:41 hadoop102.pid文件，并修改权限为777。

6）JVM堆内存溢出（Hive集群运行模式）

描述：java.lang.OutOfMemoryError: Java heap space

解决：在yarn-site.xml中加入如下代码。

<property>

<name>yarn.scheduler.maximum-allocation-mb</name>

   <value>2048</value>

</property>

<property>

  <name>yarn.scheduler.minimum-allocation-mb</name>

    <value>2048</value>

</property>

<property>

<name>yarn.nodemanager.vmem-pmem-ratio</name>

   <value>2.1</value>

</property>

<property>

<name>mapred.child.java.opts</name>

   <value>-Xmx1024m</value>

</property>

7）JVM堆内存溢出（Hive本地运行模式）

描述：在启用Hive本地模式后，hive.log报错java.lang.OutOfMemoryError: Java heap space

解决方案1（临时）：

在Hive客户端临时设置io.sort.mb和mapreduce.task.io.sort.mb两个参数的值为10。

0: jdbc:hive2://hadoop102:10000> set io.sort.mb;

+-----------------+

|       set         |

+-----------------+

| io.sort.mb=100  |

+-----------------+

1 row selected (0.008 seconds)

0: jdbc:hive2://hadoop102:10000> set mapreduce.task.io.sort.mb;

+--------------------------------+

|              set                     |

+--------------------------------+

| mapreduce.task.io.sort.mb=100   |

+--------------------------------+

1 row selected (0.008 seconds)

0: jdbc:hive2://hadoop102:10000> set io.sort.mb = 10;

No rows affected (0.005 seconds)

0: jdbc:hive2://hadoop102:10000> set mapreduce.task.io.sort.mb = 10;

No rows affected (0.004 seconds)

解决方案2（永久生效）：

在$HIVE_HOME/conf下添加hive-env.sh。

[atguigu@hadoop102 conf]$ pwd

/opt/module/hive/conf

[atguigu@hadoop102 conf]$ cp hive-env.sh.template hive-env.sh

然后将其中的参数export HADOOP_HEAPSIZE=1024的注释放开，然后重启Hive。

8）虚拟内存限制

         在yarn-site.xml中添加如下配置:

<property>

    <name>yarn.nodemanager.vmem-check-enabled</name>

    <value>false</value>

 </property>