Hadoop跑map-reduce任务时停滞不前的问题

最新推荐文章于 2024-04-29 01:52:17 发布

inte_sleeper

最新推荐文章于 2024-04-29 01:52:17 发布

阅读量4.8k

点赞数

CC 4.0 BY-SA版权

分类专栏： Hadoop Linux 文章标签：任务 hadoop ssh 服务器 kill 集群

本文链接：https://blog.youkuaiyun.com/inte_sleeper/article/details/6572052

在运行Hadoop job时遇到reduce任务在20%处停滞，原因是fetch map任务超时并尝试从一个不存在的节点web30.bbn.com.cn/202.106.195.30获取结果。该节点被错误地视为集群的一部分，导致任务分配和结果获取失败。检查SSH和hosts文件未发现问题。最终发现是之前删除的节点仍在发送心跳信息给master，通过SSH登录到该节点杀死task tracker进程解决了问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

今天跑job 的时候，发现map 任务很正常地结束，但跑reduce 任务时到20% 几就停滞不前，而且一直卡住没法正常结束。看userlog ，好像是FETCH map 任务的结果时超时，无法取到结果。中间还出现了一个诡异的地址web30.bbn.com.cn/202.106.195.30 。也就是说，reduce 任务到这个诡异的地址上去取结果。上网搜了一下，这个域名/IP 是网通的一台找不到域名或地址后自动定向的上网导航服务器。再看了下 job tracker 的日志，看到在启动的时候它将这个地址加进了节点中。这就说明，它认为这个节点是一个合法的节点，然后分配任务的时候也往这个节点分配任务（当然会失败），取结果的时候也试图到这个节点上取。

反复检查了SSH 和hosts 文件，一切都很正常。conf/slaves 文件看起来也没有问题。就是不知道哪里出的错。后来看到log 中有一个heartbeat 的词，突然想起来，节点是通过心跳来告诉master

最低0.47元/天解锁文章