记录一个因 MYSQL 服务端和JDBC驱动版本不一致导致 HMS 启动失败问题

记录一个因 MYSQL 服务端和JDBC驱动版本不一致导致 HMS 启动失败问题

1. 问题现象

某运维同学安装 CDH 后 HIVE 服务报警,查看发现 HS2 的金丝雀检查失败,进一步查看发现,HS2 无法创建默认数据库,且 HMS 启动失败。遂找到笔者进行排查。

2 问题原因

按照老套路,直接通过 CM WEB UI 查看 HMS 日志, 可以清晰发现,HMS 启动后尝试创建默认数据库(即 hive 的 default database)时,有报错:

RetryingHMSHandler [pool-5-thread-194]: Retrying HMSHandler after 2000 ms (attempt 4 of 10) with error: javax.jdo.JDODataStoreException: You have an error in your SQL syntax; check the manual tha t corresponds to your MySQL server version for the right syntax to use near 'OPTION SQL_SELECT LIMIT=DEFAULT' at line 1

该问题直接指向了 SQL 语法错误,其底层原因其实是,HMS 底层的 MYSQL 数据库和HMS使用的 MYSQL JDBC 驱动版本不匹配,比如在上述环境中:

  • mysql 数据库版本: mysql-5.6.36-linux-glibc2.5-x86_64.tar.gz;
  • mysql 驱动版本为:mysql-connector-java-5.1.43-bin.jar;
  • 由于 5.6 之前的老版本的 MYSQL JDBC 驱动类 com.mysql.jdbc.Statement 中有显示调用代码 “SET OPTION SQL_SELECT_LIMIT=DEFAULT”,而 MYSQL 服务端自 5.6 版本之后更改了 SET 配置参数的调用语法,不再支持 “SET OPTION SQL_SELECT_LIMIT=DEFAULT”,而只支持 “SET SQL_SELECT_LIMIT=DEFAULT”,所以当使用 5.6 之后的 MYSQL 服务端,而对应的MYSQL JDBC 驱动是 5.6 之前的版本,就会报上述错误。

3 问题解决

删除老版本(5.6之前) MYSQL JDBC 驱动,并替换使用新版本的 MYSQL JDBC 驱动(5.6之后,比如 8.0),重启 HIVE 服务,即可解决问题。

  • MYSQL 5.0 版本JDBC 驱动类相关源码如下com.mysql.jdbc.Statement#execute:
  • MYSQL 8.0 版本JDBC 驱动类相关源码如下com.mysql.cj.jdbc.ConnectionImpl#setSessionMaxRows:

4 参考链接与详细日志

# 参考链接:https://bugs.mysql.com/bug.php?id=66659
# 详细日志:
RetryingHMSHandler [pool-5-thread-194]: Retrying HMSHandler after 2000 ms (attempt 4 of 10) with error: javax.jdo.JDODataStoreException: You have an error in your SQL syntax; check the manual tha t corresponds to your MySQL server version for the right syntax to use near 'OPTION SQL_SELECT LIMIT=DEFAULT' at line 1
at org.datanucleus.api.jdo. NucleusJDOHelper.getJDOExceptionForNucleusException(NucleusJDOHelper.java:451)
at org.datanucleus.api.jdo.JDOQuery.execute(JDOQuery.java:275)
at org.apache.hadoop
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

明哥的IT随笔

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值