0023-HOSTS配置问题导致集群异常故障分析

最新推荐文章于 2025-05-22 19:12:26 发布

原创

最新推荐文章于 2025-05-22 19:12:26 发布 · 1.3k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#cdh

本文详细介绍了由于HOSTS配置错误，导致Hadoop集群HDFS、YARN、Hive等服务出现异常告警的问题。在CDH5.12.0环境下，异常配置使得NameNode连接、DataNode、Hive Metastore等服务受到影响，表现为日志文件异常、进程状态抑制等。解决方案是修正所有节点的hosts文件，注释掉错误的127.0.0.1配置，重启集群服务后恢复正常。

温馨提示：要看高清无码套图，请使用手机打开并单击图片放大查看。

1.问题现象

Hadoop集群HDFS、YARN、Hive等服务出现异常告警

重启集群异常告警任然存在大量告警

Cluster 1

HDFS

可用空间抑制…

NameNode 运行状况抑制...

HDFS 金丝雀抑制...

DataNode (ip-172-31-10-118) 日志文件

NameNode 连接抑制…

DataNode (ip-172-31-5-190) 日志文件

NameNode 连接抑制…

DataNode (ip-172-31-9-33) 日志文件

NameNode 连接抑制…

Hive Metastore Server (ip-172-31-6-148)  日志文件

Hive Metastore Canary 抑制…

Impala Daemon (ip-172-31-10-118)  日志文件

进程状态抑制…

Impala Daemon (ip-172-31-5-190)  日志文件

进程状态抑制…

Impala Daemon (ip-172-31-9-33)  日志文件

进程状态抑制…

NameNode (ip-172-31-6-148) 日志文件

安全模式状态抑制…

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Hadoop_SC

关注关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

一个hosts文件配置错误了！

qq_42321843的博客

03-10

1029

Hadoop集群已经启动成功了但是web50070只能看到一个运行的datanode 是slave2的第一反应我怀疑是我的hosts文件里面是不是设置错了，然后我进去了slave2查看hosts文件，发现各个节点ip地址是对的，然后又查了master的，也是对的，唯独没查slave1的。然后我就各种搜索资料什么删除VERSION文件重启集群后来竟然启动集群后datanode都不显示了...

hosts文件配置异常无法打开网页

weixin_45892228的博客

10-19

3924

1、打开计算机，点击上方的地址框输入：c:\windows\system32\drivers\etc。以上就是给大家带来的hosts文件配置异常无法打开网页的所有内容，如果对您的问题有所帮助请关注。2、在新界面中将“hosts”文件移动到桌面。3、右击选择“打开方式”用记事本打开。4、按照图片内容进行修改即可。

参与评论您还未登录，请先登录后发表或查看评论

25.集群异常故障分析——HOSTS

大勇若怯任卷舒

07-26

1173

25.1 问题情况 Hadoop集群HDFS、YARN、Hive等服务出现异常告警重启集群异常告警任然存在大量告警 Cluster 1 HDFS 可用空间抑制... NameNode 运行状况抑制... HDFS 金丝雀抑制... DataNode (ip-172-31-10-118) 日志文件 NameNode 连接抑制... DataNode (ip-172-31-5-190) 日志文件 NameNode 连接抑制... DataNode (ip-172-31-9-

09_ZooKeeper二

TU_JCN的博客

10-26

1125

ZooKeeper分布式协调框架二目录 ZooKeeper分布式协调框架一、HDFS HA方案（20分钟） 1.1 ZooKeeper监听器 1.2、HDFS HA原理（难点 15分钟） 1、HDFS HA方案流程 2、namenode主备选举过程： 3、ZKFC的主备切换方法 4、如何防止脑裂二、ZooKeeper原子广播协议（Zab） 2.1、ZooKeep...

Hive MetaStore Canary创建数据库失败

weixin_42578941的博客

05-04

6233

Hive MetaStore Canary创建数据库失败

kubernetes集群异常恢复

niwoxiangyu的博客

04-15

970

kubernetes集群异常。

数据库故障排查指南及bind-address配置错误解决方案

最新发布

百态老人的博客

05-22

1485

数据库故障排查中，常见问题包括资源耗尽、网络配置错误、服务异常、数据一致性及高并发瓶颈等。在大数据场景下，这些问题可能导致数据写入失败、分布式集群脑裂、批处理任务卡死等严重后果。以bind-address配置错误为例，表现为远程连接失败，影响分布式系统通信和实时监控。解决方案包括修改配置文件、重启服务、检查防火墙规则和用户权限。此外，可通过ELK或Flink实时处理日志，监测bind-address异常，并设置告警规则。自动化修复可通过Python脚本检测配置，并结合Ansible Playbook批量修复

5340X_5341X_5606X-PG100-RDS集群配置精要：掌握部署与管理的5大要点

本文全面介绍了RDS集群的配置、部署、监控、性能调优以及管理维护的关键技术和策略。首先概述了RDS集群的基础架构、网络与存储配置要点。随后深入探讨了高级部署技术，包括自动化部署、安全性配置与多集群环境管理。...

hadoop集群配置时hosts配置导致的错误（datanode节点只显示一个）

beArrow的博客

04-14

976

查看datanode节点正确的显示应该是下图：而修改hosts之前一直显示的是下图: 仔细观察红框里的地址，发现输出有误，立即就想到了hosts文件可能配置有误，于是打开，果不其然：下面多了3、4行，原本那两行是为了修改主机名，结果写错了位置，应该替换第三列。把3、4行删掉，然后重启sbin/start-dfs.sh 、sbin/start-yarn.sh,成功。上面谈到了修改主机名：这...

hadoop集群环境安装中的hosts 配置问题

singno的专栏

04-02

5970

今天在安装hadoop集群的时候，所有节点配置完毕，发现执行下面的命令的时候hadoop@name-node:~/hadoop$ bin/hadoop fs -lsname节点会报如下错误：11/04/02 17:16:12 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=30000011/04/02 17:16:13 WARN conf

大叔经验分享（31）CM金丝雀Canary报错

萌兔兔MMQ！！

04-13

614

1 HDFS 金丝雀 Canary 测试无法为 /tmp/.cloudera_health_monitoring_canary_files 创建父目录。 2 Hive Metastore Canary Hive Metastore canary 创建 hue hdfs 主目录失败。检查： 1）hdfs是否处于safemode，正常是off hdfs dfsadmin -safemode get Safe mode is OFF 2）hdfs datanode是否健康，磁盘空间是否空闲，可自行上传文件测试

k8s遇到的坑总结

岁月

01-12

1140

事情是这样的,我们公司有个项目找了外包来做，相当于驻场，然后外包公司大佬搭建了一套K8S环境。持续集成，不得不说很强大，很方便，我很喜欢。但是突然他们走了需要我接手…我tm 初始化的坑在另外一篇博客我的K8S环境是在腾讯云两台服务器,看的学习视频地址：B站地址按照视频的搭建K8S集群失败，我大概原因知道为啥了，但是没有再去试，因为我按照官网的文档搭建成功了，而后出现第一个问题问题一前言我是根据视频中提供的资料创建的Pod，而又不是按照它的方法创建的K8S集群，所以导致的应该，创建Jenkins.

hadoop-2.2.0集群上运行Hive 0.13 出错的解决方案

摇摆少年梦的技术博客

07-13

1862

Hadoop-2.2.0集群上运行Hive 0.13 出错的解决方案

成员资格运算符

太白紫星的博客

06-15

2429

Python 有一个成员资格运算符：in ，用于检查一个值是否在序列中，如果在序列中返回 True，否则返回 False。例如：1. >>> name = '小屁孩'2. >>> '小' in name3. True4. >>> '子' in name5. False...

ambari安装报错Registration with the server failed.

TURING.DT

04-13

4525

ambari2.1 HDP 2.3 安装ambari过程中，遇到个问题，耗费了我很长时间，在此记录此问题是在安装第二步，注册主机时遇到的 Registering with the server... Registration with the server failed. 解决方法： Platforms: RHEL / CentOS 6.5 Amba

文件服务器群集权限设置,如何在群集上创建文件共享

weixin_33562004的博客

08-06

801

如何在群集上创建文件共享12/04/2020本文内容本文介绍如何在群集上创建文件共享。适用于： Windows Server 2012R2原始 KB 编号： 224967摘要若要在群集上创建高度可用的文件共享，你应该使用群集管理员或群集 API (CluAdmin.exe) 创建它们。当共享放置在具有其他相关资源的组中 (IP 地址、网络名称和存储设备) 时，该共享可从群集中拥有资源组的任...

zookeeper总结

heliub的专栏

02-21

2820

一、zookeeper简介 ZooKeeper的设计更专注于任务协作，并不提供任何锁的接口或通用存储数据接口。ZooKeeper服务所管理的是分布式服务间的协同数据，实现通用的协作任务，包括选举主节点、管理组内成员关系、管理元数据等。ZooKeeper不适合用作海量数据存储，不同的应用有不同的需求，如对一致性和持久性的不同需求，应该将应用数据和协同数据独立开。使用 ZooKeeper可以让...

[集群] 通过QDisk增强Red Hat Cluster Suite的仲裁机制（Quorum）--转载

03-16

1788

最近在安装配置<span class="t_tag" onclick="function onclick(){tagshow(event)}">虚拟机，看到<span class="t_tag" onclick="function onclick(){tagshow(event)}">redhat中文官网上的一篇文章写的挺好，和大家分享一下，也帮住同

Galera Cluster for MySQL 详解（一）——基本原理

数据库生态圈（RDB & NoSQL & Bigdata）——专注于关系库优化（Oracle&Mysql&PG&SQL Server ）

11-02

964

本文源自：https://blog.youkuaiyun.com/wzy0623/article/details/102522268 目录一、同步复制二、Galera复制架构 1. wsrep api 2. 全局事务ID（global transaction id，GTID） 3. Galera复制插件 4. 组通信插件三、Galera复制工作原理四、状态转移 1. 状态快照传输 2. 增量状态转移 3. 写集缓存（gcache）五、流控 1. 流控原理 2. 理解节点状态 3