如何查看mapreduce日志

本文介绍如何配置Hadoop环境以便于查看MapReduce任务的日志。通过设置mr-jobhistory-daemon.sh并重新启动history server,可以在Web界面上查看详细的执行日志。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

hadoop代码,由main开始呼出map和reduce的,

在main里面写system.out是可以得到输出内容的,

但是在map和reduce中就没那么简单了。

执行中的log能看到,但是执行完了,就没有了!

参照了下面的文章

http://blog.youkuaiyun.com/infovisthinker/article/details/45370089


1 对mr-jobhistory-daemon.sh进行设置

由于我的环境里面很多环境变数没有设定,所以要追加内容

export HADOOP_HOME=/usr/bin/hadoop
export HADOOP_PREFIX=/usr/bin/hadoop
export HADOOP_LIBEXEC_DIR=/usr/lib/hadoop/libexec
export HADOOP_MAPRED_HOME=/usr/lib/hadoop-mapreduce


2 mr-jobhistory-daemon.sh start historyserver 重新启动

3 在web页面查看log

http://ubuntu:19888/jobhistory/app


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值