Hadoop04 Hdfs HA集群搭建

文章详细介绍了如何在Hadoop2.0/3.0环境下配置高可用NameNode集群,包括修改core-site.xml和hdfs-site.xml配置文件,设置Zookeeper集群,进行NameNode的格式化和初始化,以及启动和监控过程。当主NameNode故障时,系统能自动进行故障转移,确保服务不间断。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在集群模式下有一个NameNode,数据磁盘化由SNN去做,高可用模式下有两个(hadoop2.0)或多个(3.0)NameNode ,一个主  其他的是备 ,备用节点可以去做磁盘化。

架构如下所示

部署架构图 

node1: nameNode1 journal1  DataNode1

node2: journal2 DataNode2

node3: journal3 DataNode3

node4: nameNode1

利用集群模式修改配置文件

首先部署两个NameNode修改配置文件  mycluster为集群名称,根据此名称可以找到其他NameNode

vim core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://mycluster</value>
    </property>

    <property>
        <name>ha.zookeeper.quorum</name>
        <value>node1:2181,node2:2181,node3:2181</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/data/DataOrLogs/hadoop/ha</value>
    </property>

</configuration>

vim hdfs-site.xml

<configuration>
    <!-- NameNode两台节点配置 -->
    <property>
        <name>dfs.nameservices</name>
        <value>mycluster</value>
    </property>
    <property>
        <name>dfs.ha.namenodes.mycluster</name>
        <value>nn1,nn2</value>
    </property>    
    <property>
         <name>dfs.namenode.rpc-address.mycluster.nn1</name>
         <value>node1:9000</value>
    </property>
    <property>
        <name>dfs.namenode.rpc-address.mycluster.nn2</name>
         <value>node4:9000</value>
     </property>
     <property>
        <name>dfs.namenode.http-address.mycluster.nn1</name>
         <value>node1:50070</value>
    </property>

    <property>
        <name>dfs.nameno
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值