No FileSystem for scheme: hdfs问题

最新推荐文章于 2023-11-15 17:55:16 发布

weixin_30340745

最新推荐文章于 2023-11-15 17:55:16 发布

阅读量342

点赞数

CC 4.0 BY-SA版权

文章标签：开发工具大数据

原文链接：http://www.cnblogs.com/felixzh/p/10268018.html

本文详细解析了Hadoop中FileSystem的初始化过程，特别是在通过FileSystem.get(conf)调用时的静态加载机制。阐述了如何配置core-default.xml以支持fs.hdfs.impl属性，并提供了两种配置方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

通过FileSystem.get(conf)初始化的时候，要通过静态加载来实现，其加载类的方法代码如下：

private static FileSystem createFileSystem(URI uri, Configuration conf
      ) throws IOException {
    Class<?> clazz = conf.getClass("fs." + uri.getScheme() + ".impl", null); 
    if (clazz == null) {
      throw new IOException("No FileSystem for scheme: " + uri.getScheme());
    }
    FileSystem fs = (FileSystem)ReflectionUtils.newInstance(clazz, conf);
    fs.initialize(uri, conf);
    return fs;
  }

onf.getClass需要读取hadoop-common-x.jar下面的core-default.xml，但是这个xml里面没有fs.hdfs.impl的配置信息，所以需要将这个类给配置上去。

将hadoop-commom-x.jar里面的core-default.xml文件取出并修改，添加如下代码：

<property>
<name>fs.hdfs.impl</name>
<value>org.apache.hadoop.hdfs.DistributedFileSystem</value>
<description>The FileSystem for hdfs: uris.</description>
</property>

或者应用代码使用时候，自行添加：

configuration.set("fs.hdfs.impl", "org.apache.hadoop.hdfs.DistributedFileSystem");

转载于:https://www.cnblogs.com/felixzh/p/10268018.html