一个简单的上传文件到hdfs类

最新推荐文章于 2023-02-13 11:06:17 发布

最新推荐文章于 2023-02-13 11:06:17 发布 · 230 阅读

文章标签：

#大数据 #java

hadoop 同时被 2 个专栏收录

31 篇文章

订阅专栏

linux

26 篇文章

订阅专栏

本文介绍了一个使用Java API实现HDFS与本地文件系统之间文件复制的例子。文章展示了如何配置Hadoop并使用FileSystem对象来完成文件从本地上传到HDFS的操作，并提供了避免错误的注意事项。

import java.io.IOException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;

public class TestFs {

	public static void main(String[] args) throws IOException {
		Configuration conf=new Configuration();
		conf.set("fs.defaultFS","hdfs://192.168.160.131:9000");
		System.setProperty("HADOOP_USER_NAME","root");
		FileSystem fs=FileSystem.get(conf);
		
		fs.copyFromLocalFile(new Path("D:/kill.bat"),new Path("/wo"));
		fs.close();
	}
}

请注意从hdfs拷贝到本地事最好用下面这行方法,因为要操作本地的文件调用windows的方法

fs.copyToLocalFile(false, new Path("/wo/kill.bat"), new Path("E:/"), true);

如果不用这行方法就会报错,因为我的hadoop是在Linux下编译的所以没编译出操作win环境的工具,如果在win下编译会生成一个winutils.exe的文件,然后就随便了.

jar包需要这些