Hadoop - 问题 & 解决

本文解决了HDFS中数据节点DataNode未启动的问题,原因是namenode与datanode的clusterID不一致,通过修改clusterID解决。同时,介绍了IDEA编程中因权限问题无法下载文件的解决方案,即设置HADOOP_USER_NAME环境变量。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1 HDFS - 数据节点DataNode未启动

问题:运行bin/hdfs namenode -format和start-dfs.sh后,运行jps,发现数据节点DataNode未启动

原因:
运行bin/hdfs namenode -format初始化之后,导致namenode的clusterID和datanode的clusterID不一致

解决方案:
找到name和data的current文件夹(找不到可以到根目录使用find / -name current查找所有可能的进而选择name和data的current文件夹),打开VERSION文件,将name的clusterID复制到node的clusterID,记得集群内的其它机器也需要修改

2 HDFS - IDEA编程代码实现文件下载

问题:Permission denied: user=Administrator, access=WRITE, inode="/test/input":hadoop:supergroup:drwxr-xr-x

原因:用户Administator在hadoop上执行操作时被权限系统拒绝

解决方案:将HADOOP_USER_NAME=hadoop添加到系统环境变量

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值