运行一个MapReduce的JOB

1.在/data目录下创建一个文件

vim wordcount.txt

放入一些词

2.返回hadoop文件夹,在hdfs上创建一个文件夹

bin/hdfs dfs -mkdir -p /wordcount/input

3.将/data目录下刚创建的文件放到hdfs的这个文件夹下

bin/hdfs dfs -put /home/<username>/data/wordcount.txt /wordcount/input

执行命令

bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar <jobname> /wordcount/input /wordcount/output

发现有报错,查看报错信息

Please check whether your etc/hadoop/mapred-site.xml contains the below configuration:
<property>
  <name>yarn.app.mapreduce.am.env</name>
  <value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property>
<property>
  <name>mapreduce.map.env</name>
  <value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property>
<property>
  <name>mapreduce.reduce.env</name>
  <value>HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}</value>
</property>

在etc/hadoop/mapred-site.xml中添加报错中需要的信息

配置完成后,重启服务

然后重新运行

4.查看生成的文件是否正确

bin/hdfs dfs -cat /wordcount/output/*

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值