HDFS读写操作
public class HdfsOp {
public static void main(String[] args) throws Exception {
hdfsReadFile("hdfs://192.168.153.133:9000/",
"hdfs://192.168.153.133:9000/spark/sparktmp.txt" );
hdfsWriteFile("out/ww.txt","hdfs://chen133:9000/",
"hdfs://192.168.153.133:9000/spark/world.txt");
}
public static void hdfsReadFile(
String hdfsUrl,String hdfsFile) throws Exception {
Configuration cfg=new Configuration();
//"fs.defaultFS"获取配置文件中设置的hdfs端口
cfg.set("fs.defaultFS",hdfsUrl);
//获取文件
FileSystem fs=FileSystem.get(cfg);
if (!fs.exists(new Path(hdfsFile))){
throw new Exception("要读取的文件不存在!");
}
//调用ApI操作,读取文件

这篇博客展示了如何使用Java进行HDFS的读写操作。通过`HdfsOp`类的`hdfsReadFile`和`hdfsWriteFile`方法,实现了从HDFS读取文件到本地以及从本地文件系统写入文件到HDFS的功能。配置了HDFS的URL,并检查文件是否存在,确保读写的安全性。
最低0.47元/天 解锁文章
4925

被折叠的 条评论
为什么被折叠?



