启动hive,报错 ls: cannot access /export/spark/lib/spark-assembly-*.jar: No such file or directory,解决

在将Spark升级至2.x版本并与Hive 1.1.0进行集成时,遇到了找不到spark-assembly-*.jar的问题。由于Spark 2.x将原本的大JAR包拆分为多个小JAR,导致Hive无法正常启动。通过修改Hive的bin目录下hive文件中的路径配置,指向SPARK_HOME/jars目录下的所有JAR文件,成功解决了启动问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

安装好spark,安装hive,安装的spark版本是2.1.3版本,hive版本是1.1.0

安装好hive后,启动,发现一个报错,cannot access /export/spark/lib/spark-assembly-*.jar: No such file or directory.

 

看了一下,出现这个问题的原因是因为spark版本升级到2.x以后,原有lib目录下的大JAR包被分散成多个小JAR包,原来的spark-assembly-*.jar已经不存在,所以hive没有办法找到这个JAR包。

解决办法:打开hive下面的bin目录,找到hive文件,编辑hive文件,找到如下一行

编辑,改为

sparkAssemblyPath=`ls ${SPARK_HOME}/jars/*.jar`

这样就解决了,再次启动,没有报错.

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值