hive配置常见问题

本文介绍Hive安装配置过程中遇到的几个常见问题及解决方案,包括MySQL连接失败、mysql-connector版本过高以及路径配置错误导致的问题。

按照一般教程配置后运行时可能会不成功,可能有以下问题:

1、mysql无法连接,3306这个端口绑定了127.0.0.1这个IP,通过netstat -an | grep 3306可以查看到,进入

/etc/mysql/mysql.conf.d/mysqld.cnf 找到 bind-address=127.0.0.1 并注释掉,重启mysql

2、mysql-connector这个jar包可能过高,在hive-site.xml中配置mysql URL时采用如下方式:

<property>
    <name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://192.168.101.217:3306/hive?createDatabaseIfNotExist=true&amp;useSSL=false&amp;nullNamePatternMatchesAll=true</value>
    <description>JDBC connect string for a JDBC metastore</description>

</property>

3、system:java.io.tmpdir 和system:user.name提示需要使用绝对路径

Exception in thread "main" java.lang.RuntimeException: java.lang.IllegalArgumentException:

java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D

at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:472)

at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:671)

at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:615)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:606)

at org.apache.hadoop.util.RunJar.run(RunJar.java:221)

at org.apache.hadoop.util.RunJar.main(RunJar.java:136)

Caused by: java.lang.IllegalArgumentException: java.net.URISyntaxException:

Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D

at org.apache.hadoop.fs.Path.initialize(Path.java:206)

at org.apache.hadoop.fs.Path.<init>(Path.java:172)

at org.apache.hadoop.hive.ql.session.SessionState.createSessionDirs(SessionState.java:515)

at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:458)

... 8 more

Caused by: java.net.URISyntaxException: Relative path in absolute URI: ${system:java.io.tmpdir%7D/$%7Bsystem:user.name%7D

at java.net.URI.checkPath(URI.java:1804)

at java.net.URI.<init>(URI.java:752)

at org.apache.hadoop.fs.Path.initialize(Path.java:203)

... 11 more

解决方法: 

首先将conf/hive-site.xml中所有的system:java.io.tmpdir 和system:user.name都换成绝对路径。

然后找到如下代码:

<property>

<name>hive.exec.local.scratchdir</name>

<value>/home/lch/software/Hive/apache-hive-2.1.1-bin/tmp/${system:user.name}</value>

<description>Local scratch space for Hive jobs</description>

</property>

替换成如下代码:

<property>

<name>hive.exec.local.scratchdir</name>

<value>/home/lch/software/Hive/apache-hive-2.1.1-bin/tmp/${user.name}</value>

<description>Local scratch space for Hive jobs</description> </property>

主要时是红色部份


### Hive 部署中的常见问题及解决方案 #### 1. 数据库元存储连接失败 当尝试启动 Hive 或执行查询时,如果数据库元存储配置不正确,则可能会遇到连接错误。常见的原因包括 JDBC URL 错误、用户名密码不对或者网络不通等问题。 对于这种情况,建议仔细检查 `hive-site.xml` 文件中的配置项,确保所有参数都已按照实际环境进行了适当设置[^1]。另外还需要确认所使用的驱动程序版本与目标 RDBMS 是否兼容,并将其放置于 Hadoop 的类路径下以便加载。 ```xml <property> <name>javax.jdo.option.ConnectionURL</name> <value>jdbc:mysql://localhost:3306/hivemetastore?createDatabaseIfNotExist=true</value> </property> <property> <name>javax.jdo.option.ConnectionDriverName</name> <value>com.mysql.jdbc.Driver</value> </property> <property> <name>javax.jdo.option.ConnectionUserName</name> <value>root</value> </property> <property> <name>javax.jdo.option.ConnectionPassword</name> <value>mypassword</value> </property> ``` #### 2. 缺少依赖包导致的任务提交失败 有时会因为缺少必要的 Java 类而使得 MapReduce 作业无法正常运行,在这种情况下通常会在日志文件里看到 ClassNotFoundException 或 NoClassDefFoundError 提示信息。 为了避免此类情况发生,应该提前准备好所需的所有第三方库并放入 `$HIVE_HOME/lib/` 目录中;也可以通过调整 CLASSPATH 变量来指定额外的 jar 路径[^2]。 #### 3. 表创建语句报错 在定义表结构的过程中如果不遵循 HiveQL 的语法规范就很容易引发异常状况,比如字段名重复、数据类型不符等都会造成 CREATE TABLE 命令执行失败。 针对此现象可以参照官方文档学习正确的 DDL (Data Definition Language) 使用方法[^3],同时利用命令行工具提供的帮助选项获取更多指导: ```bash $ hive --help ``` #### 4. 查询性能低下 随着业务规模扩大以及复杂度增加,单纯依靠默认参数可能难以满足高效处理海量数据的需求。此时就需要考虑优化策略了——这不仅涉及到合理的索引设计、分区规划等方面的知识和技术手段的应用,更考验着开发人员对整个生态系统架构的理解程度。 为了提高效率,可以通过以下几种方式来进行改进: - 合理选择压缩编码格式; - 设置合适的 map/reduce task 数目; - 对频繁访问的数据集建立缓存机制等等。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值