HA-Hadoop 高可用原理及搭建,什么是故障迁移理论，模拟

最新推荐文章于 2022-05-09 11:09:42 发布
原创 最新推荐文章于 2022-05-09 11:09:42 发布 · 355 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#分布式 #hadoop #大数据

本文详细介绍了Hadoop 2.0中引入的高可用性（HA）配置，包括HDFS和YARN的HA机制，以及如何通过Zookeeper实现自动故障转移。文章深入解析了HA的工作原理，配置步骤，以及如何防止脑裂现象。

文章目录

一 HDFS HA高可用

1 HA概述

对NameNode 实现HA

1）所谓HA（High Available），即高可用（7*24小时不中断服务）。

2）实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。

3）Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。

4）NameNode主要在以下两个方面影响HDFS集群

​ NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启

​ NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用

HDFS HA功能通过配置Active/Standby两个NameNodes实现在集群中对NameNode的热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将NameNode很快的切换到另外一台机器。

2 HDFS-HA工作机制

通过双NameNode消除单点故障

2.1 HDFS-HA工作要点

\1. 元数据管理方式需要改变

内存中各自保存一份元数据；

Edits日志只有Active状态的NameNode节点可以做写操作；

两个NameNode都可以读取Edits；

共享的Edits放在一个共享存储中管理（qjournal和NFS两个主流实现）；

\2. 需要一个状态管理功能模块

实现了一个zkfailover，常驻在每一个namenode所在的节点，每一个zkfailover负责监控自己所在NameNode节点，利用zk进行状态标识，当需要进行状态切换时，由zkfailover来负责切换，切换时需要防止brain split现象的发生。

\3. 必须保证两个NameNode之间能够ssh无密码登录

\4. 隔离（Fence），即同一时刻仅仅有一个NameNode对外提供服务

2.2 HDFS-HA自动故障转移工作机制

与Zookeeper 高可用非常相似

半数以上存活可继续提供服务

所有节点数据都是一致性（遵循paxos 原则）

容错性: n-1/2

前面学习了使用命令hdfs haadmin -failover手动进行故障转移，在该模式下，即使现役NameNode已经失效，系统也不会自动从现役NameNode转移到待机NameNode，下面学习如何配置部署HA自动进行故障转移。自动故障转移为HDFS部署增加了两个新组件：ZooKeeper和ZKFailoverController（ZKFC）进程，如图3-20所示。ZooKeeper是维护少量协调数据，通知客户端这些数据的改变和监视客户端故障的高可用服务。HA的自动故障转移依赖于ZooKeeper的以下功能：

1**）故障检测：**集群中的每个NameNode在ZooKeeper中维护了一个持久会话，如果机器崩溃，ZooKeeper中的会话将终止，ZooKeeper通知另一个NameNode需要触发故障转移。

2**）现役NameNode****选择：**ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃，另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。

ZKFC是自动故障转移中的另一个新组件，是ZooKeeper的客户端，也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程，ZKFC负责：

1**）健康监测：**ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode，只要该NameNode及时地回复健康状态，ZKFC认为该节点是健康的。如果该节点崩溃，冻结或进入不健康状态，健康监测器标识该节点为非健康的。

2**）ZooKeeper****会话管理：**当本地NameNode是健康的，ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态，ZKFC也保持一个特殊的znode锁，该锁使用了ZooKeeper对短暂节点的支持，如果会话终止，锁节点将自动删除。

**3）基于ZooKeeper的选择：**如果本地是健康的，且发现没有其它的节点当前持有锁，它将为自己获取该锁。如果成功，则它已经赢得了选择，并负责运行故障转移进程以使它的本地为。故障转移进程与前面描述的手动故障转移相似，首先如果必要保护之前的现役，然后本地转换为状态

在这里插入图片描述

HA 重要注意

这里active 和 standby 需要手动设置

假如出现两台active（脑裂）sb-sprite brain ，那么文件GG（一个文件 假如3个块 2个在ANN 另一个在B NN）而且集群还不报错，写入数据不可靠

所以我们设置HA 全力防止脑裂

zookeeper+HA

在这里插入图片描述

鲁棒型===代码健壮性

zkfc 作用 负责跟zookeeper 沟通

为何zkfc 不跟namenode 写在一起,按理说有NN 就要有zkfc 为何分开写 ，为了不破坏 NN 鲁棒型

一开始NN 都是stadnby ,zkfc到zookeeper看 有没有临时节点（active），如果没有 他会自己创建一个临时节点 然后对应NN 就变成active (比谁快)

实现故障转移

在这里插入图片描述

3-通知另一台NN 是通过zookeeper 在zookeeper 杀死自己的临时节点 —zookeeper 会通知 另一台 zkfc 上位变成active

进行中进程

在这里插入图片描述

3 HA 搭建过程

module 下 创建 ha

cp -r hadoop。。。 ha

配置hadoop-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

配置core-site.xml
<configuration>


<!-- 把两个NameNode）的地址组装成一个集群mycluster -->
                <property>
                        <name>fs.defaultFS</name>
                        <value>hdfs://mycluster</value>
                </property>

                <!-- 指定hadoop运行时产生文件的存储目录 -->
                <property>
                        <name>hadoop.tmp.dir</name>
                        <value>/opt/module/ha/hadoop-2.7.2/data/tmp</value>
                </property>

</configuration>
配置hdfs-site.xml
<configuration>
	<!-- 完全分布式集群名称 -->
	<property>
		<name>dfs.nameservices</name>
		<value>mycluster</value>
	</property>

	<!-- 集群中NameNode节点都有哪些 -->
	<property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
	</property>

	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>hadoop102:9000</value>
	</property>

	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>hadoop103:9000</value>
	</property>

	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>hadoop102:50070</value>
	</property>

	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>hadoop103:50070</value>
	</property>

	<!-- 指定NameNode元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
	<value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/mycluster</value>
	</property>

	<!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->    //远程把另外机器杀死 防止脑裂措施
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence</value>
	</property>

	<!-- 使用隔离机制时需要ssh无秘钥登录-->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value/root/.ssh/id_rsa</value>
	</property>

	<!-- 声明journalnode服务器存储目录-->
	<property>
                <name>dfs.journalnode.edits.dir</name>
                <value>/opt/module/ha/hadoop-2.7.2/data/jn</value>
        </property>

        <!-- 关闭权限检查-->
        <property>
                <name>dfs.permissions.enable</name>
                <value>false</value>
        </property>

        <!-- 访问代理类：client，mycluster，active配置失败自动切换实现方式-->
        <property>
                <name>dfs.client.failover.proxy.provider.mycluster</name>
                <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
        </property>



</configuration>

</configuration>

拷贝配置好的hadoop环境到其他节点,并分发 ha 到其它服务器上

1） 启动HDFS-HA集群

\1. 在各个JournalNode节点上，输入以下命令启动journalnode服务

sbin/hadoop-daemons.sh start journalnode

看看status 状态是否为0 如果是0 则表示成功

\2. 在[nn1]上，(必须启动JN 后才能格式化)对其进行格式化，并启动

bin/hdfs namenode -format

看看status 状态是否为0 如果是0 则表示成功

sbin/hadoop-daemon.sh start namenode

\3. 在[nn2]上，同步nn1的元数据信息

bin/hdfs namenode -bootstrapStandby
如果报错可以参考这篇文档

\4. 启动[nn2]

sbin/hadoop-daemon.sh start namenode

在这里插入图片描述

\5.在[nn1]上，启动所有datanode

sbin/hadoop-daemons.sh start datanode

在这里插入图片描述

\6. 将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1

\7. 查看是否Active

bin/hdfs haadmin -getServiceState nn1

在这里插入图片描述

2）配置HDFS-HA自动故障转移

\1. 具体配置

​ （1）在hdfs-site.xml中增加

<property>

 <name>dfs.ha.automatic-failover.enabled</name>

 <value>true</value>

</property>

​ （2）在core-site.xml文件中增加

<property>

 <name>ha.zookeeper.quorum</name>

 <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>

</property>
同步其它集群配置
\2. 启动

​ （1）关闭所有HDFS服务：

sbin/stop-dfs.sh

​ （2）启动Zookeeper集群：

bin/zkServer.sh start

​ （3）初始化HA在Zookeeper中状态： ----在zookeeper 中添加父节点

[root@hadoop102 hadoop-2.7.2]# bin/hdfs zkfc -formatZK

​ （4）启动HDFS服务：

sbin/start-dfs.sh

在这里插入图片描述

\3. 验证NAMENODE

​ （1）将Active NameNode进程kill

kill -9 namenode的进程id

​

cat …log | less

在这里插入图片描述

\4. 验证ZKFC

杀掉zkfc 做验证从active 变standy ，另一方从standy 变active 原理

在这里插入图片描述

\5. 验证网络

将Active NameNode机器断开网络

service network stop

3）YARN-HA配置

YARN-HA工作机制
\1. 官方文档：

http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html

\2. YARN-HA工作机制，如图3-23所示

在这里插入图片描述

配置YARN-HA集群
（1）yarn-site.xml
<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!--启用resourcemanager ha-->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!--声明两台resourcemanager的地址-->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>

    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
    </property>
 
    <!--指定zookeeper集群的地址--> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!--启用自动恢复--> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!--指定resourcemanager的状态信息存储在zookeeper集群--> 
    <property>
        <name>yarn.resourcemanager.store.class</name>        <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>

</configuration>

（2）同步更新其他节点的配置信息

启动hdfs
（1）在各个JournalNode节点上，输入以下命令启动journalnode服务：

sbin/hadoop-daemon.sh start journalnode

（2）在[nn1]上，对其进行格式化，并启动：(如果已经格式化过不用再格式化了)

bin/hdfs namenode -format

sbin/hadoop-daemon.sh start namenode

（3）在[nn2]上，同步nn1的元数据信息：

bin/hdfs namenode -bootstrapStandby

（4）启动[nn2]：

sbin/hadoop-daemon.sh start namenode

（5）启动所有DataNode

sbin/hadoop-daemons.sh start datanode

（6）将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1

启动zookeeper

sbin/start-dfs.sh

启动YARN

（1）在hadoop102中执行：

sbin/start-yarn.sh ----jpsall 看发现只有 102 才有RM ，103没有启动 这是配置问题 所以103需要单独执行

（2）在hadoop103中执行：

sbin/yarn-daemon.sh start resourcemanager

在这里插入图片描述

（3）查看服务状态，如图3-24所示

bin/yarn rmadmin -getServiceState rm1
在这里插入图片描述

hadoop ha的实现方式原理介绍
一亩三分地
02-01 3204
在hadoop 1.x版本中,是没有ha的实现方式的,它只有可以看做是冷备份的Secondary NameNode来起到冷备份的作用的,当NameNode挂掉的时候,我们需要手工启动Secondary NameNode。 那么为什么Secondary NameNode能够这样做，是因为SNN能够帮助NN做一些检查点的工作，会同步编辑日志和镜像文件，所以可以起到冷备的作用。在1...
Hadoop 2.7.3 高可用（HA）集群部署
Han Bert
10-17 2425
本文主要介绍如何部署Hadoop 2.7.3 高可用（HA）集群
HA的自动故障迁移需要这个插件
qq354436218的博客
02-12 281
HDFS的HA不能自动故障迁移的可以执行这个命令： yum -y install psmisc
HA高可用手动故障转移
isea_you's blog
11-28 878
目录 HA相关概念： 同步问题： 脑裂问题： 手动故障转移： 为什么要先启动journalnode？ HA相关概念： 1）所谓HA（high available），即高可用（7*24小时不中断服务）。 2）实现高可用最关键的策略是消除单点故障（single point of failure，SPOF）。 3）单点故障是一个组件发生故障，就会导致整个系统无法运行。 4）HA严格来...
hadoop 集群HA高可用搭建以及问题解决方案
ZeroTeam_麒麟
02-20 1万+
hadoop 集群HA高可用搭建目录大纲1. hadoop HA原理 2. hadoop HA特点 3. Zookeeper 配置 4. 安装Hadoop集群 5. Hadoop HA配置 搭建环境 环境 版本 地址地址 CentOS 6.5 64x 点击下载 hadoop 2.5.1 点击下载 Zookeeper 3.4.5 点击下载 Hadoop
什么是Hadoop的HA机制？
十色花的博客
07-04 7578
Hadoop的HA机制前言：正式引入HA机制是从hadoop2.0开始，之前的版本中没有HA机制1.1 HA的运作机制（1）hadoop-HA集群运作机制介绍所谓HA，即高可用（7*24小时不中断服务）实现高可用最关键的是消除单点故障hadoop-ha严格来说应该分成各个组件的HA机制——HDFS的HA、YARN的HA （2）HDFS的HA机制详解通过双namenode消除单点故障双namenod...
hadoop高可用搭建文档
10-10
在大数据处理领域，Hadoop是不可或缺的核心组件，其高可用性（High Availability, HA）功能是确保服务不中断的关键。本篇文章将详细讲解如何搭建Hadoop的高可用环境，适用于生产环境，即使面对高版本的Hadoop，也...
深入浅出学大数据（五）Hadoop再探讨High Availability(HA)集群搭建及YARN原理介绍
不温卜火
10-23 3553
前言 此系列主要为我的学弟学妹们所创作，在某些方面可能偏基础。如果读者感觉较为简单，还望见谅！如果文中出现错误，欢迎指正~. 本文主要介绍了Hadoop再探讨High Availability(HA)及YARN原理介绍，除此之外还有High Availability(HA)集群搭建的具体搭建过程。
【Hadoop HA集群搭建全攻略】：10大步骤带你从零开始建立高效可靠的高可用环境
本文详细探讨了Hadoop高可用（HA）集群的理论基础、搭建、配置、监控与维护以及性能调优。首先介绍了Hadoop HA集群的硬件和软件要求，并阐述了安装配置的具体步骤和高可用特性的实施。随后，文章对集群监控与维护...
【Hadoop高可用实践】：双ResourceManager架构设置与故障转移秘籍
Hadoop高可用概念解析 在大数据的世界里，Hadoop作为一个开源框架，已经成为了存储和处理海量数据的行业标准。然而，随着企业对数据处理能力的要求日益增长，如何保证数据服务的高可用性成为了我们必须面对的挑战...
Hadoop-HA模式（详解）
热门推荐
窃格拉瓦
08-21 2万+
一、概述 之前的博客写了搭建hadoop集群环境，今天写一写搭建高可用（HA）环境。Hadoop-HA模式大致分为两个(个人在学习中的理解)： namenode 高可用 yarn 高可用 1、Namenode HA Namenode在HDFS中是一个非常重要的组件，相当于HDFS文件系统的心脏，在显示分布式集群环境中，还是会有可能出现Namenode的崩溃或各种意外。所以，高可用模...
12）Hadoop之HDFS HA（高可用）
zy
09-25 484
HA概述： 所谓HA（High Available），即高可用（7*24小时服务不中断） 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 NameNode主要在以下两个方面影响HDFS集群： NameNode机器发生意外，如宕机，集群将无法使用，直...
Hadoop HA自动故障转移搭建
qq_43206800的博客
07-27 483
1. 所需知识: Hadoop Zookeeper 2. 目前Hadoop集群存在的问题: 2.1 如果NameNode故障后，应该怎么办? Prior to Hadoop 2.0.0, the NameNode was a single point of failure (SPOF) in an HDFS cluster. Each cluster had a single NameNode, and if that machine or process became unavailable, th
HDFS-HA自动故障转移工作机制
努力努力再努力L
06-09 1089
HDFS-HA自动故障转移工作机制 目录 HA概述 HDFS-HA工作要点 HDFS-HA自动故障转移工作机制 1. HA概述 所谓HA（high available），即高可用（7*24小时不中断服务）。 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在...
Hadoop HA自动故障转移&频繁启动问题解决
不断努力的数据汪
05-09 1247
背景 之前博客中有讲怎么配置hadoop的HA，在工作中，我因要进行数据治理组件的探究，所以需要部署一个测试集群来测试一下数据治理相关组件的集成，可能是因为测试集群比生产环境的配置要低，所以遇到了之前没有遇到的问题，比如HA配置后，NN一直频繁切换 自动故障转移配置 vim $HADOOP_HOME/etc/hadoop/hdfs-site.xml <!-- 配置自动故障转移 --> <property> <name>dfs.ha.automatic-failo
解锁虚拟服务器,跟大家聊聊HA切换的问题~服务器在存储解锁的问题
weixin_33177758的博客
08-06 333
跟大家聊聊HA切换的问题~服务器在存储解锁的问题最近做了测试ESX4，用openfiler基本上的功能都搞定了，什么在线迁移啊，资源分配啊，都测试成功，就唯独HA的迁移不能成功，经过长时间的实验以及分析，发现就是在迁移的时候出现问题，在看有关资料当中是这么解释HA的，每个ESX4服务器都有一个心跳线，在机器发生故障的时候，服务器检测自己的心跳，如果发现自己心跳测试失败就表示自己已经宕机，会自动断开...
Hadoop HA 高可用（重点详解）
weixin_48067943的博客
07-29 1506
文章目录四、Hadoop HA 高可用4.1 HA 概述4.2 HDFS-HA 工作机制4.2.1 HDFS-HA 工作要点4.2.2 HDFS-HA 自动故障转移工作机制4.3 HDFS-HA 集群配置4.3.1 环境准备4.3.2 规划集群4.3.3 配置 Zookeeper 集群4.3.4 配置 HDFS-HA 集群4.3.5 启动HDFS-HA集群4.3.6 配置 HDFS-HA 自动故障转移4.4 YARN-HA配置4.4.1 YARN-HA工作机制4.4.2 配置 YARN-HA 集群4.5 H
Hadoop HA的理解
玻璃心的专栏
10-31 8053
最近在自学hadoop，看了很多网上的博客，很多人都提到了HA，但是具体的HA是怎么一回事，他指的是什么，我们为什么要考虑这个呢?下面我就谈谈我个人对HA的理解。 HA（High Available）就是高可用性，我们学习分布式集群框架，经常的会考虑这个问题，那么Hadoop也是不可避免的，而Hadoop的HA具体是什么引起的呢？知道这个我们就可以提出具体的方案来解决它，或者提高HA了。我们学习H
Hadoop3与高可用HA架构搭建教程
- **HA高可用搭建**：这部分内容会详细介绍如何设置Hadoop集群实现高可用。包括配置ZooKeeper集群，设置主从NameNode，以及如何通过Quorum Journal Manager实现元数据的共享和同步。搭建过程中还需要配置相关的hdfs-...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值