记录一次远程debug hadoop jobtracker

本文指导如何在Eclipse中配置和调试Hadoop MapReduce作业,通过设置远程调试,实现对作业的详细控制。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

hadoop CDH3u2
  • 准备好eclipse并创建一个hadoop源码项目,将源码添加倒src path
  • stop jobtracker(/etc/init.d/hadoop-0.20-jobtracker stop)
  • vi bin/hadoop(添加红色部分)

...

elif [ "$COMMAND" = "jobtracker" ] ; then

  CLASS=org.apache.hadoop.mapred.JobTracker

  HADOOP_OPTS="$HADOOP_OPTS $HADOOP_JOBTRACKER_OPTS -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=

8899"

...

 

 

  • 启动jobtracker(/etc/init.d/hadoop-0.20-jobtracker start),此时会打印"Listening for transport dt_socket at address: 8899",但是jobtracker尚未启动。
  • 右键hadoop src项目,右键“Debug As”,选择“Debug Configurations”,选择“Remote Java Application”,添加一个新的测试,输入远程host ip和监听端口,上例为8899,然后点击“Debug”按钮,jobtracker此时启动。
  • 在hadoop 源码中添加断点,运行一个job,程序会自动暂停到断点位置,剩下的事情交给你了。

调试mapreduce见我另一篇文章《 远程Hadoop调试——mapreduce函数调试篇

-- heipark


 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值