Hive报错和解决办法

Hive常见错误及解决方案

最新推荐文章于 2023-08-17 18:34:46 发布

原创

最新推荐文章于 2023-08-17 18:34:46 发布 · 1.9k 阅读

1 ·

CC 4.0 BY-SA版权

本文总结了Hive使用中遇到的一些典型错误，包括firstBadLink错误、metastore报错、TTransportException、File does not exist错误以及数据倾斜问题，并提供了详细的解决方法。如调整文件句柄数、修改binlog_format、重启metastore服务、处理数据ETL错误以及优化数据倾斜的Hive脚本等。

firstBadLink错误

报错：
Caused by: java.io.IOException: Bad connect ack with firstBadLink as 192.168.2.24:50010
解决方法：动态分区数太多，需要提高文件句柄数，
root账户下vi /etc/security/limits.conf
End of file
hadoop - nofile 65536

metastore报错

报错：
Binary logging not possible. Message: Transaction level ‘READ-COMMITTED’ in InnoDB is not safe for binlog mode ‘STATEMENT’
解决方法
因为，READ-COMMITTED需要把bin-log以mixed方式来记录，用以下命令来修改：
set global binlog_format=‘MIXED’;

TTransportException

报错：
hive (default)> use test;
FAILED: Error in metadata: org.apache.thrift.transport.TTransportException: java.net.SocketTimeoutException: Read timed out
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask
解决方法：
metastore服务僵死，重启metastore服务即可