Centos下命令行编译MapReduce代码(Java)并打包在Hadoop中执行

本文详细介绍如何在Hadoop环境下搭建并运行MapReduce任务,包括系统配置、文件操作、代码编译与打包,以及执行MapReduce作业的具体步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前提条件:搭建好Hadoop系统


新建文件夹:input  和  output

hdfs dfs -mkdir /input
hdfs dfs -mkdir /output

查看文件系统

hdfs dfs -ls /

配置hadoop的架包路径,修改~/.bashrc

vim ~/.bashrc

添加(路径以自己的系统中的安装路径为准)

export HADOOP_HOME=/usr/hadoop/hadoop-2.7.5
export CLASSPATH=$($HADOOP_HOME/bin/hadoop classpath):$CLASSPATH

 然后source一下使其生效

source ~/.bashrc
或者
.  ~/.bashrc

 接下来需要编译代码,以及打包

找到已经写好的MapReduce代码(conf是我的配置文件,工程需要)

 开始编译

javac LocationOfCars.java

 

打包

jar -cvf LocationOfCars.jar ./LocationOfCars*.class

 

可以将包拷贝到自己的专有文件夹下,比如我的 jar 文件夹

 在此路径下来执行代码(我的代码需要一个输入路径,三个输出路径(三个MR)

hadoop jar LocationOfCars.jar LocationOfCars /input /output/out1 output/out2 output/out3

这样就可以执行了


 

本节完......

转载于:https://www.cnblogs.com/xinglichao/p/9722563.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值