使用hadoop运行wordcount程序

本文详细介绍了如何在Hadoop环境下运行WordCount程序。首先,通过Eclipse创建Java工程,导入Hadoop依赖,复制WordCount.java源码。然后,设置运行参数并执行程序,观察结果。接着,讲解了将程序打包成jar文件的两种方式,并提供了运行可执行jar包的命令。在执行mapreduce任务时,强调输出路径不能预先创建,否则会导致执行异常。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在前面我们已经搭建出来了Hadoop的开发环境,又实现了Eclipse插件的编译,现在我们就用使用Hadoop运行一下其自带的WordCount程序,以初步了解一些Hadoop是怎么运行的,我们采取两种方式运行这个小程序,首先是在Eclipse的环境中将WordCount程序直接运行到Hadoop上然后观察结果,然后再将WordCount程序打成jar包使用hadoop命令进行运行测试

下面我们先使用第一种方式来运行

在Eclipse中建立一个Java工程,将Hadoop依赖的jar包导入(这里也可以直接建立MapReduce工程Eclipse将自动将所依赖的包导入),然后将hadoop-1.2.1/src/examples/org/apache/hadoop/examples/WordCount.java拷贝到工程中,如下图:


运行该程序很简单,由于需要两个参数一个是输入路径,一个输出路径,所以对着程序右键点击运行时选择Run Confgurations然后设置相应的参数,如下图:


我们的输入input中的内容如下:



然后运行程序,此时如果控制台没有打出异常信息,通常则表示运行成功,通过刷新蓝色大象图标,可以看到产生了新的output目录,目录下存在两个文件,其中part-r-00000文件即为输出的结果,如下图所示:



第二种方式就是将程序打成jar然后运行,打jar包时可以有两种方式,一种是普通的jar包,一种是可执行jar包,这两种的不同之处,在于运行时的命令稍微有点差别,普通的jar包在执行时需要指定主函数,可执行jar由于在打包时已指定所以在运行时就不需要再指定了,如下图:


1.对于打成普通jar的,我这里命名为wordcount.jar,运行时命令如下

hadoop jar wordcount.jar org.apache.hadoop.examples.WordCount /input /output1

2.对于打包成可执行jar的,运行的命令如下

hadoop jar wordcount.jar /input /output2

可以通过hadoop fs -cat /output/part-r-00000来查看执行的结果


这里需要注意的是,对于mapreduce程序,其输出路径不能事先创建,否则执行时hadoop将会抛出异常,并终止执行



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值