sqoop 异常处理Not implemented by the DistributedFileSystem FileSystem implementation

本文介绍了当使用特定版本的SQOOP(1.4.3-cdh4.3.2)与Hadoop(CDH4.3.2)组合时遇到的不兼容问题及异常。主要问题是由于SQOOP编译时依赖的Hadoop版本与实际运行环境中Hadoop版本存在较大差异导致。文章提供了通过修改依赖包并重新编译SQOOP来解决此问题的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、问题描述:

 执行sqoop import 命令抛出如下异常(hadoop版本cdh4.3.2,sqoop版本sqoop-1.4.3-cdh4.3.2,其中hadoop手动配置ha+mr1)


java.lang.UnsupportedOperationException:Not implemented by the DistributedFileSystem FileSystem implementation

       at org.apache.hadoop.fs.FileSystem.getScheme(FileSystem.java:207)

       at org.apache.hadoop.fs.FileSystem.loadFileSystems(FileSystem.java:2276)

       at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2286)

       at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2303)

       at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:87)

       at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2342)

       at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2324)


二、问题分析

sqoop包含的sqoop-1.4.3-cdh4.3.2.jar ,编译时是依赖于cdh4.3.2的mr2核心包,而hadoop2.0和1.0的差距很大,造成不兼容


三、解决方案

修改依赖包(替换jar文件,修改build.xml文件),重新ant编译


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值