在hadoop框架中编译执行程序

本文介绍如何在Hadoop环境中编译和运行WordCount示例程序。通过搭建开发环境,并利用Hadoop伪分布式方式进行调试,最终在真实分布式环境中运行MapReduce程序。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、eclipse3.3+hadoop0.20.2搭建的开发环境,可以用来调试程序,其中,hadoop以伪分布式方式运行。当程序在单机的伪分布式情况下运行无误时,就要到真正的分布式环境中运行mapreduce程序了。 可能真正分布式hadoop平台使用的hadoop版本与调试环境下实用的hadoop版本不一样,那么就要先在hadoop框架中编译程序,打包成jar程序,再在hadoop命令行运行程序。


2、好在可以得到wordcount的源码,安装后它被放在src/examples/org/apache/hadoop/examples/WordCount.java 中。我们可以根据需要来修改它。首先我们建立一个playground的目录结构并复制这个程序。(在hadoop安装目录下)

mkdir   playground

mkdir  playground/src

mkdir  playground/classes

cp   src/examples/org/apache/hadoop/examples/WordCount.java  playground/src/WordCount.java

在Hadoop框架中编译和执行这个副本:

javac     -classpath    hadoop-core-1.0.4.jar:lib/commons-cli-1.2.jar    -d   playground/classes      playground/src/WordCount.java

                                                                                                                            -d    [目标目录]                         需要编译的源文件,可能有多个 .java文件

打包:

jar    -cvf   playground/WordCount.jar     -C   playground/classes/                

注意:上面一行最后的点(“.”)不能丢

运行:

bin/hadoop    jar    playground/WordCount.jar     org.apache.hadoop.examples.WordCount   input   output

                                  jar文件                                          WordCount与java文件中的类名相同



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值