Hadoop-HA 实现高可用

最新推荐文章于 2025-05-16 10:00:17 发布

做个坏男人

最新推荐文章于 2025-05-16 10:00:17 发布

阅读量849

点赞数 2

CC 4.0 BY-SA版权

分类专栏：大数据文章标签： hadoop

本文链接：https://blog.youkuaiyun.com/Cheng_May/article/details/108035520

大数据专栏收录该内容

9 篇文章

订阅专栏

前言：最近学习了hadoop中的HA，目的是为解决单点故障的问题，实现集群的稳定，避免数据的丢失。

什么是HA？？？

HA(Highly Available)，高可用性集群，是保证业务连续性的有效解决方案，一般有两个或两个以上的节点，且分为活动节点及备用节点。

通常把正在执行业务的称为活动节点，而作为活动节点的一个备份的则称为备用节点。当活动节点出现问题，导致正在运行的业务（任务）不能正常运行时，备用节点此时就会侦测到，并立即接续活动节点来执行业务。从而实现业务的不中断或短暂中断。

Namenode：namenode 主要保存目录树结构的数据，那么他是怎么得到的呢？目录数据是由DataNode主动将Block块数据发送给Namenode进行存储。DataNode由心跳机制来通告Namenode，我还活着，如果十分钟namenode没有接收到DataNode发送的心跳，那么Namenode就会认为DataNode挂掉了，就会从其他节点中复制一个副本，以确保副本数不会缺失。

我们首先要修改：core-size.xml 中的配置

<configuration>
    <!--设置mycluster逻辑名称 -->
    <property>
            <name>fs.defaultFS</name>
            <value>hdfs://mycluster</value>

    </property>
    <!--ha 用来存储  初始化时所生成的 信息 -->
    <property>
            <name>hadoop.tmp.dir</name>
            <value>/var/sxt/hadoop/ha</value>
    </property>
    <!-- zookeeper信息 -->
    <property>
       <name>ha.zookeeper.quorum</name>
       <value>node02:2181,node03:2181,node04:2181</value>
    </property>
   <!--修改core-site.xml中的ipc参数,防止出现连接journalnode服务ConnectException-->
    <property>
           <name>ipc.client.connect.max.retries</name>
           <value>100</value>
              <description>Indicates the number of retries a client will make to establish a server connection.</description>
    </property>
    <property>
            <name>ipc.client.connect.retry.interval</name>
            <value>10000</value>
             <description>Indicates the number of milliseconds a client will wait for before retrying to establish a server connection.</description>
      </property>
</configuration>

2.配置 hdfs-size.xml 中的信息

<configuration>
    <!--副本数量-->
    <property>
        <name>dfs.replication</name>
        <value>2</value>
    </property>
    <!--namenode 的 逻辑名称在这配置，，-->
    <property>
      <name>dfs.nameservices</name>
        <value>mycluster</value>
    </property>
    <!--ha的namenode的数量-->
    <property>
      <name>dfs.ha.namenodes.mycluster</name>
      <value>nn1,nn2</value>
    </property>
    <!--rpc namenode的地址-->
    <property>
      <name>dfs.namenode.rpc-address.mycluster.nn1</name>
      <value>node01:8020</value>
    </property>
    <property>
       <name>dfs.namenode.rpc-address.mycluster.nn2</name>
       <value>node02:8020</value>
    </property>
    <!--http namenode的访问端口-->
    <property>
       <name>dfs.namenode.http-address.mycluster.nn1</name>
       <value>node01:50070</value>
    </property>
    <property>
       <name>dfs.namenode.http-address.mycluster.nn2</name>
       <value>node02:50070</value>
    </property>
    <!--journalNode -->
    <property>
        <name>dfs.namenode.shared.edits.dir</name>
        <value>qjournal://node01:8485;node02:8485;node03:8485/mycluster</value>
    </property>
    <!--journalNode 数据存储-->
    <property>
        <name>dfs.journalnode.edits.dir</name>
        <value>/var/sxt/hadoop/ha/jn</value>
    </property>
    
    <property>
        <name>dfs.client.failover.proxy.provider.mycluster</name>
        <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>

    <property>
          <name>dfs.ha.fencing.methods</name>
          <value>sshfence</value>
    </property>

    <property>
          <name>dfs.ha.fencing.ssh.private-key-files</name>
          <value>/root/.ssh/id_dsa</value>
    </property>

    <property>
          <name>dfs.ha.automatic-failover.enabled</name>
          <value>true</value>
    </property>


</configuration>

3.配置 slaves 节点

所有的都配置完成之后，，

1、先启动 journalnode；

2、初始化并启动namenode；

3、再去备节点获取主节点的信息；

4、初始化并启动zkfc

1）hadoop-daemon.sh start journalnode

2) hdfs namenode -format 、start-dfs.sh

3) hdfs namenode -bootstrapStandby

4）hdfs zkfc -formatZK

4. 先配置好zookeeper，三台，

修改：1 dataDir = 想写哪里都行（/var/hadoop/zk）

2 server.1 = ip:port1:port2

server.2 = ip:port1:port2

server.3 = ip:port1:port2

注意：当leader 挂掉的时候，zk可以通过port2 进行选举，选出新的leader。

运行图：

其中有三个节点：

备节点：

YARN_HA:

具体配置:

yarn-site.xml

<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!--启用resourcemanager ha-->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!--声明两台resourcemanager的地址-->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>

    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
    </property>
 
    <!--指定zookeeper集群的地址--> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!--启用自动恢复--> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!--指定resourcemanager的状态信息存储在zookeeper集群--> 
    <property>
        <name>yarn.resourcemanager.store.class</name>     <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>

</configuration>

（2）同步更新其他节点的配置信息

(1) 在各个JournalNode节点上，输入以下命令启动journalnode服务：

sbin/hadoop-daemon.sh start journalnode

（2）在[nn1]上，对其进行格式化，并启动：

bin/hdfs namenode -format

sbin/hadoop-daemon.sh start namenode

（3）在[nn2]上，同步nn1的元数据信息：

bin/hdfs namenode -bootstrapStandby

（4）启动[nn2]：

sbin/hadoop-daemon.sh start namenode

（5）启动所有DataNode

sbin/hadoop-daemons.sh start datanode

（6）将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1