利用Java代码操控HDFS

最新推荐文章于 2023-06-16 03:06:20 发布

原创最新推荐文章于 2023-06-16 03:06:20 发布 · 378 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#HDFS #JavaAPI

本文详细介绍了如何使用HDFS的Java API进行文件和目录的管理，包括创建、上传、下载、删除等操作，为开发者提供了实用的代码示例。

HDFS的Java API

当利用eclipse安装好HDFS环境了以后（具体步骤参考上一篇博文https://blog.youkuaiyun.com/Andrea_null/article/details/83032732），就可以编写代码操控HDFS了。编写的代码要参考关于HDFS的Java API。此处列举一部分操控HDFS的JavaAPI示例。

首先，想要操控HDFS，要先创建配置对象。创建配置对象的方法如下

Configuration conf = new Configuration(true);

然后再创建HDFS的对象

FileSystem fs = FileSystem.get(conf);

之后可以通过HDFS的对象对HDFS进行操作。

//取路径下所有文件的信息
listStatus = fs.listStatus(destPath);
//创建新文件
fs.createNewFile(dirPath);
//创建目录
fs.mkdirs(dirPath);
//上传到HDFS
fs.copyFromLocalFile(srcPath_Hdfs, destPath_Hdfs);
//下载
fs.copyToLocalFile(srcPath_Hdfs, destPath_Hdfs);
//删除文件
fs.delete(new Path(path));
//内部拷贝
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,false, conf);
//内部移动
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,true, conf);
//追加
FSDataOutputStream append = fs.append(new Path(path));