Sqoop从mysql导入数据到hive遇到的问题...

在尝试使用 Sqoop 从 MySQL 导入数据到 Hive 时遇到了问题,表现为 map 步骤完成但 reduce 未执行。通过查看 hive.log 日志,发现在 Sqoop 的 lib 目录下缺少 Hive 的某些 jar 文件。逐个添加 jar 文件并未解决问题,最终将整个 hive/lib 下的所有 jar 移动到 Sqoop 的 lib 目录下,但新的问题是找不到数据库。解决方法是将 hive/conf 下的 hive-site.xml 复制到 sqoop 工作目录的 conf 下,原因是 Sqoop 的配置文件过时。经过这些步骤,成功解决了问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

这次遇到的坑有点儿玄学。。。。也许是我用的sqoop和hive版本有问题,反正用其他方法解决了

在终端中运行的语句:

语句并没有问题

一开始遇到的情况是这样的:

map跑完了100%但是reduce跑都没跑就结束了。。我就很诧异啊

看了hive的日志文件(如果没有修改过,路径就是/tmp/{username}/hive.log,我的用户是root所以路径是/tmp/root/hive.log);

发现爆出了:

java.lang.NoClassDefFoundError: org/apache/hadoop/hive/shims/ShimLoader

解决方案就是从hive目录/lib中把对应的jar放到sqoop的lib中;

但是让人惊喜的是。。放完一个又来一个。

然后一气之下。。把hive/lib下的所有jar放到了sqoop/lib下

cp $HIVE_HOME/lib/* $SQOOP_HOME/lib

 再次运行sqoop的语句总算比较好了,但是居然出现

hive SemanticException [Error 10072]: Database does not exist
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值