hdfs missing blocks corrupt blocks

最新推荐文章于 2023-10-07 20:08:34 发布
原创 最新推荐文章于 2023-10-07 20:08:34 发布 · 1.3k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

在CDH集群中，HDFS出现丢失和损坏块导致Cloudera Manager监控告警，使得Canary测试无法创建目录。解决方法包括：退出HDFS安全模式，检查并删除丢失或损坏的块，以及必要时清理相关文件，然后重启HDFS服务。

环境：

CDH集群

问题描述：

Cloudera Manager 监控HDFS爆红

Canary 测试无法为 /tmp/.cloudera_health_monitoring_canary_files 创建父目录

Missing blocks

Currupt blocks

解决方案：

以上问题描述都是hdfs丢失块或者块损坏造成，当hdfs丢失块时，hdfs会进去安全模式，只能进行查询操作，不能进行修改操作，Canary测试自然无法创建父目录。

块丢失的话，如果数据不是很重要，就可以删除相关数据，消除报警。

1、首先关闭hdfs安全模式，相关命令如下：

    hdfs  dfsadmin -safemode get       获取安全模式的状态

    hdfs   dfsadmin -safemode leave      强行关闭安全模式

2、查看丢失的块，相关命令如下：

    hdfs  fsck  /        查看丢失的块以及损坏的块

    

最低0.47元/天 解锁文章
HDFS数据恢复之Block Missing
wateraworld的专栏
03-29 5625
背景 报警得知2台机器宕机，推测是IDC同事在处理之前的报修。一台是系统盘故障，12块数据盘正常。一台是某块数据盘损坏。两台机器宕机时间相差不大，副本未自动补偿完毕，导致有27个block丢失，发生Block Missing，若干新旧文件发生corrupt。 解决方案 获得missing block列表，通过namenode即可获得。通过ramos进入系统盘损坏的机器，将全部
HDFS missing blocks的处理办法
热门推荐
数据源的港湾
12-11 1万+
Hadoop集群中遇到了HDFS missing blocks的错误，处理办法如下： 切换到hdfs用户 su - hdfs 使用hadoop fsck命令检查坏的块 hadoop fsck / 输出示例如下 ， ... /user/trafodion/.hiveStats/HIVE.DMA.DMA_ENTTYPE_STAT_ORC-1532663517555-NOSTRIPENUMR...
HDFS Corrupt blocks 解决方法
微步的博客
07-20 7564
查看修复HDFS中损坏的块 检测缺失块 1 hdfs fsck -list-corruptfileblocks 1 hdfs fsck / | egrep -v '^\.+$' | grep -v eplica 查看上面某一个文件的情况 1 hdfs fsck /path/to/corrupt/file -locations -blocks -files 解决方法 如果文件不重...
HDFS block丢失，导致hadoop进入安全模式的解决方案
08-29
HDFS block丢失hadoop进入安全模式（Safe mode）的解决方法
HDFS HA切换后missing block问题分析
我想静静
05-31 6859
HDFS HA切换后missing block问题分析
错误 hdfs miss block
kk25114的博客
09-27 328
miss block 1.删除节点,副本数量不足 (设置副本数量) 2.集群异常 3.升级,ha 列出 删除 再查看状态为health 此时cdh状态上变绿了 引用 https://blog.youkuaiyun.com/levy_cui/article/details/70226195?utm_source=blogxgwz3 https://my.oschina.net/...
hdfs数据丢失数据块block missing问题排查解决
赵英超的博客
10-07 1967
告警内容:NameNode Blocks Health:Total Blocks:[13352317], Missing Blocks:[1]最后平滑重启NameNode，在重启异常的DataNode解决。允许ipc通讯最大的数据包为128MB，默认配置为64MB。开始时间:2023-10-02 08:05:12。组件:HDFS/cube-hdfs-1。排查hdfs datanode日志发现。持续时间:8小时44分钟。但是数据一直没法恢复。
hadoop hdfs missing blocks & 安全模式
数据之美的博客
11-19 5692
近期在做磁盘有关的一些测试时，最先是发现habse出现了RIT而且还是meta表的RIT，查看hadoop，出现了hdfs  missing blocks的问题，hadoop master上一上来就能看见报该问题。 There are 88 missing blocks. The following files may be corrupted: blk_1076662996 /**/d...
HDFS Missing Block诊断信息的改进
走在前往架构师的路上
03-07 1647
文章目录前言HDFS Block副本storage location的移除逻辑HDFS Block的last stored location的优化HDFS Missing Block lastStoredLocationd的测试 前言 在存储系统中，数据的安全性无疑是最top priority的事情，因此当数据发生丢失的时候，如何快速找到这些数据的位置并且快速地对他们进行恢复是最最要紧的事情。本...
[root@zhaosai conf]# hdfs dfsadmin -report Configured Capacity: 0 (0 B) Present Capacity: 0 (0 B) DFS Remaining: 0 (0 B) DFS Used: 0 (0 B) DFS Used%: NaN% Under replicated blocks: 0 Blocks with corrupt replicas: 0 Missing blocks: 0 Missing blocks (with replication factor 1): 0
06-08
这个错误提示显示HDFS已经没有可用的存储空间，需要增加HDFS的存储容量。可以尝试以下几种方法来解决这个问题： 1. 增加HDFS的存储容量 可以通过增加HDFS的存储容量来解决这个问题。可以添加更多的数据节点或者...
记一次HDFS的block corrupt事件
weixin_34168880的博客
02-14 673
还有最后两天班，明天晚上回家过年了，可是CDH突然报了一个block missing的错误，用 hdfs fsck /检查了一下，我们的块一共有500W个，missing了将近100W个，天呐，不过由于Hdfs的replication的机制，只要不是3份全丢就可以修复，这样，绝大部分的块都修复了，但是还是有3000多个块是3份都丢失了，3份全丢后，状态就为corrupt，直接导致小时报和日报收到影...
hdfs报错 ‘There are 10 missing blocks...‘
hhhhhhhhhhhnb的博客
05-17 896
hdfs集群下线DataNode要严格遵守顺序！！！ 启动hdfs与yarn平台后，进入web页面发现无法上传文件和创建目录，更无法删除目录。在hadoop中发现提示为进入安全模式。 查看安全模式状态 hdfs dfsadmin -safemode get 进入安全模式 hdfs dfsadmin -safemode enter 离开安全模式 hdfs dfsadmin -safemode leave ...
hdfs missing blocks. The following files may be corrupted
lixgjob的博客
06-13 2001
https://www.cnblogs.com/itboys/p/9596441.html There are 2 missing blocks. The following files may be corrupted： 步骤1，检查文件缺失情况 可以看到， blk_1074785806 /var/log/yarn_hislog/yarn/apps/root/logs/app...
HDFS Block损坏恢复实践
Java大数据
08-21 1385
文章目录一，介绍：二，实践三，修复①hdfs debug 手动修复(推荐）②手动修复二③自动修复四总结 一，介绍： ①：hdfs fsck /path 检查path中文件的健康状况 ②：hdfs fsck /path -files -blocks -locations 打印文件块的位置信息(-locations) 需要和-files -blocks一起使用 ③：hdfs fsck /path -l...
How to fix corrupt HDFS FIles
szh1124的专栏
02-24 1006
1 问题描述 HDFS在机器断电或意外崩溃的情况下，有可能出现正在写的数据(例如保存在DataNode内存的数据等)丢失的问题。再次重启HDFS后，发现hdfs无法启动，查看日志后发现，一直处于安全模式。 2 原因分析 出现前面提到的问题主要原因是客户端写入的数据没有及时保存到磁盘中，从而导致数据丢失；又因为数据块丢失达到一定的比率，导致hdfs启动进入安全模式。
Fix Corrupt Blocks on HDFS
weixin_33753003的博客
05-16 161
来自：http://centoshowtos.org/hadoop/fix-corrupt-blocks-on-hdfs/   How do I know if my hadoop hdfs filesystem has corrupt blocks, and how do I fix it? The easiest way to determine this is to run an fs...
机房断电引起hadoop hdfs corrupt blocks
CrazyPig的技术博客
06-06 5118
周末公司紧急停电引起机房hadoop测试集群断电，当周一回来准备重启集群发现Cloudera Manager报HDFS块损坏的错误。我们CDH测试集群上面有HBase集群和Solr集群的数据保存在HDFS上。
HDFS源码分析数据块汇报之损坏数据块检测checkReplicaCorrupt()
weixin_33717298的博客
04-14 317
无论是第一次，还是之后的每次数据块汇报，名字名字节点都会对汇报上来的数据块进行检测，看看其是否为损坏的数据块。那么，损坏数据块是如何被检测的呢？本文，我们将研究下损坏数据块检测的checkReplicaCorrupt()方法。 关于数据块及其副本的状态，请阅读《HDFS源码分析之数据块及副本状态BlockUCState、...
HDFS块损坏问题。
weixin_41870706的博客
07-21 927
因为断电，导致hdfs块损坏，ClouderManager 提示块损坏问题。 1：寻找损坏的块的路径 hdfs fsck / | egrep -v '^\.+$' | grep -v eplica 2：寻找每个损坏块的相信信息。会列出每个块的副本的节点信息 /path/to/corrupt/file 为损坏块的路径 hdfs fsck /path/to/corrupt/file -locations -blocks -files 3：找到每个损坏块副本分散节点，依次去排查相关问题。 4：.
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值