Hadoop错误汇总(更新中)

[Hadoop]Hadoop异常汇总,不定期更新 异常1:jps命令查看NameNode未启动 笔者最近在学习Hadoop,遇到了个很尴尬的问题,就是重新启动linux虚拟机后,发现hadoop   start-all.sh命令启动不了NameNode。并百度搜索了很多网站,并未能成功结果。这里提供一个出现该问题的一个可能(笔者也是遇到的这样的问题)。 问题描述:jps命令查看NameNode未启动 尝试格式化等操作,并不难解决这个问题 阅读详情

1.ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /var/lib/hadoop-0.20/cache/hdfs/dfs/data: namenode

namespaceID = 240012870; datanode namespaceID = 1462711424 .

http://blog.youkuaiyun.com/wh62592855/article/details/5752199

 

2.org.apache.hadoop.security.AccessControlException: Permission denied: user=xxj

hdfs-site.xml文件中加入

 <property>

  <name>dfs.permissions</name>

  <value>false</value>

 </property>


3. Invalid Hadoop Runtime specified; please click 'Configure Hadoop install directory' or fill in library location input
 field

eclipse window->preferences - > Map/Reduce  选择hadoop根目录


4.eclipse error: failure to login

eclipse hadoop plugin/lib 目录中加入

lib/hadoop-core.jar,

lib/commons-cli-1.2.jar,

lib/commons-configuration-1.6.jar,

lib/commons-httpclient-3.0.1.jar,

lib/commons-lang-2.4.jar,

lib/jackson-core-asl-1.0.1.jar,

lib/jackson-mapper-asl-1.0.1.jar

修改META-INF/MANIFEST.MF

Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-configuration-1.6.jar,lib/commons-httpclient-3.0.1.jar,lib/commons-lang-

2.4.jar,lib/jackson-core-asl-1.0.1.jar,lib/jackson-mapper-asl-1.0.1.jar


5.hadoop 1.0.0版本
hadoop 启动时 TaskTracker无法启动
ERROR org.apache.hadoop.mapred.TaskTracker: Can not start task tracker because java.io.IOException: Failed to set permissions of path: \tmp\hadoop-admin

\mapred\local\ttprivate to 0700
 at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:682)
 at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:655)
 at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
 at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
 at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
 at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:719)
 at org.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:1436)
 at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:3694)

eclipse运行作业  Failed to set permissions of path: \tmp\hadoop-admin\mapred\staging\Administrator-1506477061\.staging to 0700

:Windows环境下的Hadoop TaskTracker无法正常启动  包括0.20.204、0.20.205、1.0.0版本

网上的解决方案 五花八门  有的说用 0.20.204以下版本 等

我采用修改FileUtil类 checkReturnValue方法代码 重新编译  替换原来的hadoop-core-1.0.0.jar文件 来解决

改后的hadoop-core-1.0.0.jar下载地址http://download.youkuaiyun.com/detail/java2000_wl/4326323

bug https://issues.apache.org/jira/browse/HADOOP-7682

 

6.Bad connection to FS. command aborted. exception: Call to dp01-154954/192.168.13.134:9000 failed on connection exception: java.net.ConnectException: Connection refused: no further information

ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory D:\tmp\hadoop-SYSTEM\dfs\name is in an inconsistent

state: storage directory does not exist or is not accessible.

重新格式化  bin/hadoop namenode -format  (小心不要拼错)

 

7.org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /tmp/hadoop-SYSTEM/mapred/system. Name node is in safe mode.
The ratio of reported blocks 0.9412 has not reached the threshold 0.9990. Safe mode will be turned off automatically.
 at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.deleteInternal(FSNamesystem.java:1992)
 at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.delete(FSNamesystem.java:1972)
 at org.apache.hadoop.hdfs.server.namenode.NameNode.delete(NameNode.java:792)
 at sun.reflect.GeneratedMethodAccessor5.invoke(Unknown Source)
 at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
 at java.lang.reflect.Method.invoke(Method.java:597)
 at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
 at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
 at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
 at java.security.AccessController.doPrivileged(Native Method)
 at javax.security.auth.Subject.doAs(Subject.java:396)
 at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1083)
 at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)

  :bin/hadoop dfsadmin -safemode leave (解除安全模式)

 safemode参数说明:

enter - 进入安全模式

leave - 强制NameNode离开安全模式

get -   返回安全模式是否开启的信息

wait - 等待,一直到安全模式结束。

 

8 hbase

INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...

:bin/hadoop dfsadmin -safemode leave (解除安全模式)


9.win7下 ssh启动不了  错误:ssh: connect to host localhost port 22: Connection refused

  输入windows 登录用户名

参考:http://blog.163.com/tienan_feng@126/blog/static/173379258201132021831344/

hadoop和hbase、zookpeeper错误 后续更新 1. jps时出现如下信息 3019 -- process information unavailable 解决办法: 进入tmp目录, cd /tmp 删除该目录下 名称为hsperfdata_{username}的文件夹 重新jps 就可以了   2. ERROR: org.apache.hadoop.hbase.MasterNotRunn 阅读详情

相关推荐

Hadoop入门(十五)——集群常见错误及解决方案

Hadoop入门(十五)——集群常见错误及解决方案 后续持续更新 文章目录Hadoop入门(十五)——集群常见错误及解决方案1)防火墙没关闭、或者没有启动 YARN2)主机名称配置错误3)IP 地址配置错误4)ssh 没有配置好5)root 用户和 leokadia 两个用户启动集群不统一6)配置文件修改不细心7)不识别主机名称8)DataNode 和 NameNode 进程同时只能工作一个。9)执行命令不生效,粘贴 Word 中命令时,遇到-和长–没区分开。导致命令失效10)jps 发现进程已经没有,

小哨的博客 8723

elasticsearch启动常见错误

问题出现环境,OS版本:CentOS-7-x86_64-Minimal-1708;ES版本:elasticsearch-6.2.2。 1、max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]   每个进程最大同时打开文件数太小,可通过下面2个命令查看...

weixin_30407099的博客 440

hadoop公平调度其Fair Scheduler运行错误

下午将hadoop的调度器更改为Fair Scheduler,没想到晚上Fair Scheduler就抛出了异常,异常错误信息如下: 23:51:36,437 ERROR org.mortbay.log: /scheduler java.lang.NullPointerException at org.apache.hadoop.mapred.FairSchedulerServlet$

竹叶青 的专栏 3953

[hadoop]org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /tmp/hadoop-yarn/...

[hadoop@hadoop102 hadoop-3.1.3]$ hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /wcinput/wcinput /wcoutput 2021-08-13 11:57:39,172 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.10.103:8032 2021-08.

枪枪枪的博客 1453

hadoop2.0 遇到的问题 (持续更新)

最近在弄hadoop2.0,把遇到的一些问题做个笔记: 版本:apache hadoop-2.2.0 在启动nodemanager的时候报下面的错误: 2013-10-29 11:32:21,523 FATAL org.apache.hadoop.yarn.server.nodemanager.NodeManager: Error starting NodeManager java

baiyangfu的专栏 1万+

Buck-Boost电路实战:如何用LM2596模块快速搭建升降压电源(附元件选型指南)

本文详细介绍了如何使用LM2596模块快速搭建Buck-Boost升降压电路,包括硬件选型、电路搭建、示波器实测和进阶技巧。通过实测数据和避坑指南,帮助电子工程师解决电压不稳定、效率低下等常见问题,提升DC-DC变换器的设计水平。

weixin_30485379的博客 111

org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete

转载自:http://hi.baidu.com/zhy65991/item/8428013fcf459e342f0f8158safemode模式 NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(1-dfs.safemode.threshold.pct),则系统会一直处于安全模式状态即只读状态。 dfs.safemode.threshold.pct

STU756的专栏 2947

FIddler+Proxifer 实现PC客户端抓包详细教程

FIddler+Proxifer 实现PC客户端抓包详细教程

森明帮大于黑虎帮的博客 1万+

Hadoop 异常记录 Cannot delete /tmp/hadoop/mapred/system. Name node is in safe mode.

org.apache.Hadoop.ipc.RemoteException: org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /tmp/hadoop/mapred/system. Name node is in safe mode. The ratio of reported blocks 0.7

Rocky 2147

SMILES:化学结构的线性表示方法

SMILES:化学结构的线性表示方法

jasminefeng的博客 1万+

Qt中常见的面试题总结

基于Qt开发的一些常用面试题

一名热爱编程的程序员 8493

hadoop常见错误汇总(持续更新)

名字

weixin_64276293的博客 721

ArcGIS基础:点要素分割线要素和提取线要素的交点

第一个实验:【点要素分割线要素】看下原始数据:下图所示,2个红点和一条绿线,用2个点去分割这条线。 找到【数据管理工具】,在找到【要素】,再找到【在点处分割线】,如下图所示。 输入线、点要素,然后在【搜索半径】里输入5米,查看一下结果。 查看结果发现,线段被分割了2段,我们查看一下原因。 发现第2个点与线有一段距离,肯定是大于5米的,所以分割没有成功。可以量测一下距离,重新输入搜索半径。 我们把搜索半径改为200米,勘察结果,被点分割了3段。 接下来使用另外一个工具【在折点处分割线】,如下所示。

yuanYW7556的博客 1万+

Ubuntu使用笔记及其问题汇总

1.软件源错误: https://forum.ubuntu.org.cn/viewtopic.php?p=3213870 到软件中心->ubuntu软件,钩子全部去掉; 命令行执行:sudo rm -rf /var/lib/apt/lists,这一步是我瞎蒙的,不知道对不对,删了也没关系; 打开/etc/apt/source.list,使用dG清空文件,点击i键,输入阿里源: deb ht...

YSS_33521的博客 725

网络可视化工具netron详细安装流程

netron安装目录1.netron 简介2.不同操作系统下的安装使用方式2.1 在线版本:只要有浏览器就可以2.2 不同操作系统安装使用3.netron支持的网络框架4.netron测试演示 1.netron 简介 在实际的项目中,经过会遇到各种网络模型,需要我们快速去了解网络结构。如果单纯的去看模型文件,脑海中很难直观的浮现网络的架构。 这时,就可以使用netron可视化工具,可以清晰的看到每一层的输入输出,网络总体的架构,而且支持各种不同网络框架,简单好用。 2.不同操作系统下的安装使用方式 2.1

江南研习社 12万+

Windows 11 WSL2环境下OpenClaw部署的兼容性问题分析与解决方案研究

本文研究了OpenClaw在Windows 11 WSL2环境下的部署方案。WSL2通过无缝集成Linux与Windows系统,为OpenClaw提供了良好的运行环境,支持GPU加速和跨平台开发。文章详细分析了硬件配置要求(推荐8核CPU/16GB内存/NVMe SSD)、系统选择(Windows 11 Pro+Ubuntu 22.04)以及部署步骤,包括WSL2启用、Linux发行版安装、Python/Node.js/Redis等依赖配置。通过优化.wslconfig文件参数(如内存分

博客 2279

基于Spark的新冠肺炎疫情数据分析系统所遇问题以及解决指南

1、Ubuntu16.04想设置linux系统静态IP地址,使用vi /etc/sysconfig/network-scripts/ifcfg-ens33打开的编辑器是空的 解决方法:Ubuntu 在 /etc/network/interfaces。 打开Ubuntu终端,输入 sudo gedit /etc/network/interfaces 使用gedit编辑器打开interfaces文件。 在打开的文件中,若有内容,先全部删除。然后输入如下代码: auto ens33 iface en

teletubbies的博客 2123

科研项目数据抓取:Python爬虫实现与分析

本文详细介绍了如何使用Python爬虫抓取科研项目的数据,涵盖了从目标数据源选择到数据存储与分析的整个过程。通过使用。

2201_76125261的博客 1710

hadoop停止及启动问题和hadoop更新

hadoop停止问题 修改Master的namespaceID使其与Slave的namespaceID一致。 Master的“namespaceID”位于“/usr/hadoop/tmp/dfs/name/current/VERSION”文件里面,Slave的“namespaceID”位于“/usr/hadoop/tmp/dfs/data/current/VERSION”文

狐狸叫 2386

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Hadoop Streaming 常见错误(不断更新ing)

1、streaming默认的情况下,mapper和reducer的返回值不是0,被认为异常任务,将被再次执行,默认尝试4次都不是0,整个job都将失败 [plain] view plaincopy java.lang.RuntimeException: PipeMapRed.waitOutputThreads(): subprocess fail

2705

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

[hadoop分布式]常见问题汇总(持续更新中)

最近一段时间在学习hadoop体系下的HBASE与SPARK,在安装过程中遇到了很多问题,通过网上的求助和周围同学的帮忙成功解决了一些。 这些问题和回答不能涵盖所有的情况,只包括了我暂时遇到的一些问题和我自己最终的解决方法。 之后遇到新的问题,我会及时记录,如果解决,会在这个文章下进行更新。 问题一: 在安装完hadoop后启动dfs失败,并出现“bash: start-dfs.sh: comma...

jianwei2016的博客 448

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

Hadoop实验常见问题汇总【持续更新中。。。】

查看Import包是否正确查看Maven版本是否为自定义版本而不是系统自带版本查看Maven仓是否为自定义路径。尝试删除Maven仓或者重新设置Maven仓目录。重启Idea, 重启系统查看依赖包是否正确查看Java包是否安装正确。

weixin_43954081的博客 390
上一篇: Hadoop1.0 Eclipse Plugin-作业提交
下一篇: Eclipse3.7 Indigo 字体设置为Courier New
胸口碎大石_
博客等级 码龄17年 1154粉丝 82原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值