hadoop中遇到的一些问题

本文档提供了Hadoop环境中常见的几个问题及其解决方案,包括在HDFS中创建目录失败、DataNode服务无法启动、使用Hadoop fs命令列出文件时出现警告以及在编译Java程序时遇到的Hadoop API相关错误。

1、在hdfs中创建文件夹时

hadoop fs -mkdir testdata 

错误 提示:No such file or directory


解决方法: 

hadoop fs -mkdir -p /user/hadoop/testdata

2、datanode无法启动

jps发现没有datanode服务。


解决方法:

删除datanode的所有资料。将集群中每个datanode的/hdfs/data/current中的VERSION删掉,hdfs为hadoop-src/conf/hdfs-site.xml中name为dfs.data.dir所指向的值,如:/usr/local/hadoop/data/hadoop/data,

/hdfs/data/current/VERSION =/usr/local/hadoop/data/hadoop/data/current/VERSION)。


然后stop所有服务,格式化namenode。。。

stop-all.sh
hadoop namenode -format
start-all.sh
jps

3.使用hadoop fs -ls时报错

WARN ipc.Client: Address change detected. Old: xxx New:  xxx

/etc/hosts文件内容在启动前后有变动,或者IP与主机名称配置不正确


4.javac 编译引入hadoop API 时报错

(1)、可以通过配置hadoop的classpath变量解决;

export	CLASSPATH=$($HADOOP_HOME/bin/hadoop classpath):$CLASSPATH

(2)、在编译时引入hadoop core包

javac -classpath hadoop-core-xxx.jar Xxxxx.java


若依赖的还有其他包则使用 : 加上

javac -classpath hadoop-core-xxx.jar:XXX.jar Xxxxx.java


转载于:https://www.cnblogs.com/baalhuo/p/5762106.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值