eclipse操作hadoop-文件上传下载以及使用MapReduce完成对一个文本文件的单词计数

最新推荐文章于 2023-12-21 14:44:12 发布

huangbiao56

最新推荐文章于 2023-12-21 14:44:12 发布

阅读量1.2k

点赞数

CC 4.0 BY-SA版权

分类专栏：大数据平台文章标签： hadoop操作 MapReduce

本文链接：https://blog.youkuaiyun.com/qq_39022311/article/details/93340144

本文介绍了如何在Eclipse中利用Hadoop MapReduce框架完成一个单词计数的程序。首先展示了如何操作HDFS，包括查看、重命名、删除文件以及上传下载文件。接着详细说明了MapReduce程序的实现步骤，包括导入所需jar包，编写Mapper、Reducer类以及Driver类。最后，文章提到了可能遇到的权限问题及解决办法，并展示了程序运行结果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.查看hdfs上的文件

public static void main(String[] args) {
		try {
			// 创建要链接的资源地址
			URI uri = new URI("hdfs://xxx.xxx.xxx.xxx:端口号");  //这个地址是hadoop目录下etc/hadoop/core-site.xml文件里的 fs.defaultFS 地址

			Configuration conf = new Configuration();
			conf.set("dfs.replication", "1"); // 设置副本数

			// 获取文件系统实例
			FileSystem fs = FileSystem.get(uri, conf, "huangbiao");

			FileStatus[] fss = fs.listStatus(new Path("/user/huangbiao"));//这是要查看的文件系统的目录，看自己的目录是什么
			System.out.println("当前目录下的文件信息如下：");
			for (FileStatus f : fss) {
				System.out.println( f.getPath().getName() );
			}
		} catch (URISyntaxException e) {
			e.printStackTrace();
		} catch(FileNotFoundException e){
			e.printStackTrace();
		}catch (IOException e) {
			e.printStackTrace();
		} catch (InterruptedException e) {
			e.printStackTrace();
		}
	}

输出结果：
在这里插入图片描述
2.修改hdfs上的文件名：

public static void main(String[] args) {
		try {
			// 创建要链接的资源地址
			URI uri = new URI("hdfs://xxx.xxx.xxx.xxx:端口号"); //这个地址是hadoop目录下etc/hadoop/core-site.xml文件里的 fs.defaultFS 地址

			Configuration conf = new Configuration();
			conf.set("dfs.replication", "1"); // 设置副本数

			// 获取文件系统实例
			FileSystem fs = FileSystem.get(uri, conf, "huangbiao");

			FileStatus[] fss = fs.listStatus(new Path("/user/huangbiao"));
			System.out.println("当前目录下的文件信息如下：");
			for (FileStatus f : fss) {
				System.out.println(f.getPath().getName());
			}
			
			Scanner sc = new Scanner(System.in);
			System.out.println("请输入您要修改的文件名：");
			Path f11 = new Path(sc.next());
			
			System.out.println("请输入修改后的名称：");
			Path f12 = new Path(sc.next());
			
			boolean b1 = fs.rename(f11, f12);
			System.out.println("修改结果："+b1);
			
		} catch (URISyntaxException e) {
			e.printStackTrace();
		} catch(FileNotFoundException e){
			e.printStackTrace();
		}catch (IOException e) {
			e.printStackTrace();
		} catch (InterruptedException e) {
			e.printStackTrace();
		}
	}