HDFS 文件读取 (根据文件路径读取hdfs下的文件内容)

最新推荐文章于 2023-06-04 23:59:42 发布

He...

最新推荐文章于 2023-06-04 23:59:42 发布

阅读量4.3k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： hdfs 文章标签： hdfs

本文链接：https://blog.youkuaiyun.com/weixin_43928714/article/details/94575954

hdfs 专栏收录该内容

1 篇文章

订阅专栏

本文详细介绍了一种从Hadoop分布式文件系统（HDFS）中读取文件内容的方法。通过具体的Java代码示例，展示了如何配置HDFS客户端，遍历指定路径下的所有文件，包括子目录，并读取文件内容到字符串列表中。此方法适用于大数据处理场景，尤其是当需要对HDFS上的大量文件进行数据处理和分析时。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

/**
 * 根据文件路径读取hdfs下的文件内容
 * @param hdfsPath hdfs访问路径
 * @param pathName 要读取文件的全路径
 * @return
 */
public static List<String> fileReadFromHdfs(String hdfsPath,String pathName){
    List<String> list = new ArrayList<>();
    try {
        Configuration conf = new Configuration();
        URI uri = URI.create(hdfsPath);
        FileSystem hdfs = null;
        Path path = new Path(pathName);
        hdfs = FileSystem.get(uri, conf, "hdfs");
        log.info("----------------------------------");
        log.info("hdfs uri："+uri);
        log.info("path: "+path);
        log.info("----------------------------------");
        FileStatus[] files = hdfs.globStatus(path);
        for (FileStatus file : files) {
            if (file.isDirectory()) {
                RemoteIterator<LocatedFileStatus> iterator = hdfs.listFiles(file.getPath(), false);
                while (iterator.hasNext()) {
                    LocatedFileStatus fileStatus = iterator.next();
                    Path fullPath = fileStatus.getPath();
                    System.out.println(fullPath);
                    log.info("---------文件夹下的子文件路径："+fullPath);

                    //------start   获取到全路径  读取文件内容
                    FileSystem fs = FileSystem.get(URI.create(fullPath.toString()),conf);
                    FSDataInputStream hdfsInStream = fs.open(new Path(fullPath.toString()));
                    BufferedReader reader = new BufferedReader(new InputStreamReader(hdfsInStream));
                    String line = null;
                    while ((line=reader.readLine()) != null) {
                        System.out.println(line);
                        list.add(line.toString());
                    }
                    hdfsInStream.close();
                    fs.close();
                    //------end   获取到全路径  读取文件内容

                }
            } else {
                System.out.println(file.getPath());
            }
        }

    } catch (IOException e) {
        e.printStackTrace();
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
    return list;
}