hadoop常见问题-no datanode to stop

最新推荐文章于 2021-11-12 11:03:26 发布

原创最新推荐文章于 2021-11-12 11:03:26 发布 · 328 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#Hadoop #Exception

Hadoop 同时被 2 个专栏收录

105 篇文章

订阅专栏

Exception

24 篇文章

订阅专栏

本文介绍了Hadoop停止时出现nodatanodetostop信息的原因及解决办法，包括删除特定目录内容、修改namespaceID、重新格式化Hadoop等步骤，避免集群数据丢失。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

现象：当停止Hadoop的时候发现no datanode to stop的信息。

原因1：每次namenode format会重新创建一个namenodeId，而tmp/dfs/data下包含了上次format下的id，namenode format清空了namenode下的数据，但是没有清空datanode下的数据，导致启动时失败，所要做的就是每次fotmat前，清空tmp一下的所有目录。

这里有两种解决方案：

1）删除“/usr/hadoop/tmp”里面的内容

rm -rf /usr/hadoop/tmp/*

2）删除“/tmp”下以“hadoop”开头的文件

rm -rf /tmp/hadoop*

3）重新格式化hadoop

hadoop namenode -format

4）启动hadoop

start-all.sh

这种方案的缺点是原来集群上的重要数据全没有了。因此推荐第二种方案：

1）修改每个Slave的namespaceID，使其与Master的namespaceID一致。

或者

2）修改Master的namespaceID使其与Slave的namespaceID一致。

Master的“namespaceID”位于“/usr/hadoop/tmp/dfs/name/current/VERSION”文件里面，Slave的“namespaceID”位于“/usr/hadoop/tmp/dfs/data/current/VERSION”文件里面。

原因2：问题的原因是hadoop在stop的时候依据的是datanode上的mapred和dfs进程号。而默认的进程号保存在/tmp下，linux 默认会每隔一段时间（一般是一个月或者7天左右）去删除这个目录下的文件。因此删掉hadoop-hadoop-jobtracker.pid和hadoop-hadoop-namenode.pid两个文件后，namenode自然就找不到datanode上的这两个进程了。

在配置文件hadoop_env.sh中配置export HADOOP_PID_DIR可以解决这个问题。

在配置文件中，HADOOP_PID_DIR的默认路径是“/var/hadoop/pids”，我们手动在“/var”目录下创建一个“hadoop”文件夹，若已存在就不用创建，记得用chown将权限分配给hadoop用户。然后在出错的Slave上杀死Datanode和Tasktracker的进程(kill -9 进程号)，再重新start-all.sh，stop-all.sh时发现没有“no datanode to stop”出现，说明问题已经解决。