HADOOP 伪分布式官方安装方法过程中的问题

本文记录了在按照Hadoop官方文档安装3.2.0伪分布式模式时遇到的问题,包括JAVA_HOME未设置、hostname解析错误、配置文件错误、权限不足、用户身份未定义等问题,并提供了详细的解决方法。
部署运行你感兴趣的模型镜像

按照hadoop官方文档http://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.html,安装hadoop3.2.0伪分布式模式过程中出现的问题,记录如下:

一、 ERROR: JAVA_HOME is not set and could not be found

解决方法:hadoop还是找不到JAVA_HOME,在etc/hadoop/hadoop-env.sh中添加或修改JAVA_HOME,一定要使用绝对路径。

二、bin/hdfs namenode -format时出现 错误:

Unable to determine local hostname -falling back to 'localhost'

java.net.UnknownHostException: zhaochao: zhaochao: 未知的名称或服务

解决方法:在etc/hosts中手动添加解析:

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4 zhaochao

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

三  sbin/start-dfs.sh时出现错误:

ERROR: Cannot set priority of namenode process 6017

原因:在core-site.xml中将default单词拼错了

解决方法:修改即可

四、sbin/start-dfs.sh时出现错误: 

java.io.FileNotFoundException: /etc/hadoop-3.2.0/logs/fairscheduler-statedump.log (权限不够)

解决方法:使用sudo命令执行sbin/start-dfs.sh

五、出现了错误:

ERROR: Attempting to operate on hdfs namenode as root

ERROR: but there is no HDFS_NAMENODE_USER defined. Aborting operation.

Starting datanodes

ERROR: Attempting to operate on hdfs datanode as root

ERROR: but there is no HDFS_DATANODE_USER defined. Aborting operation.

ERROR: JAVA_HOME is not set and could not be found.

原因:HDFS需要知道本机上的hadoop是以哪个用户的身份在跑。

解决方法:在etc/hadoop/hadoop-env.sh中添加用户

export HDFS_NAMENODE_USER=zhaochao

export HDFS_DATANODE_USER=zhaochao

六、出现错误:java.io.FileNotFoundException: /etc/hadoop-3.2.0/logs/fairscheduler-statedump.log

原因:当前用户无法对hadoop文件夹进行操作

解决方法:sudo chown zhaochao:zhaochao -R hadoop-3.2.0

七、出现错误:

org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-zhaochao/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible。

原因:tmp文件被自动删除

解决方法:在core-site.xml中添加一个hadoop.tmp.dir的值,重新初始化一下hdfs。

八、无法访问50070端口,通过netstat查看,根本没有50070端口在监听

解决方法:在 hdfs-site.xml添加如下配置并重启dfs(sbin/stop-dfs.sh, sbin/start-dfs.sh):

<?xml version="1.0"?>

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

  <name>dfs.http.address</name>

  <value>0.0.0.0:50070</value>

</property>

</configuration>

之后,整体的文件如下:

<?xml version="1.0"?>

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

  <name>dfs.http.address</name>

  <value>0.0.0.0:50070</value>

</property>

</configuration>

 

 

 

您可能感兴趣的与本文相关的镜像

Stable-Diffusion-3.5

Stable-Diffusion-3.5

图片生成
Stable-Diffusion

Stable Diffusion 3.5 (SD 3.5) 是由 Stability AI 推出的新一代文本到图像生成模型,相比 3.0 版本,它提升了图像质量、运行速度和硬件效率

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值