Hadoop----QJM的高可用性

1. 问题：集群的Namenode存在单点故障
2. 解决方式：
   （1）使用QJM（Quorum Journal Manager）的HDFS高可用性
   （2）使用NFS的高可用性
3. 影响可用性的两个主要方面
   （1）计划外事件（例如计算机崩溃)
   （2）计划内事件（如NameNode计算机上的软件或硬件升级）将导致群集停机时间段。
4. 高可用的简介：
   （1）只有两台独立的计算机配置为NameNode，其中一个NameNode处于活动状态(active)，另外一个Namenode只是充当从属服务器(Standby)
   （2）在集群中配置一组"journalnode"，记录活跃Namenode的编辑信息，同时传给备份Namenode，并防止"脑裂情景"的发生(JournalNodes只允许一个NameNode一次成为一个writer)
   （3）datanode要向两个Namenode进行心态反馈
5. 硬件需求：
   （1）namenode的计算机硬件应该相同，保持一致。
   （2）journalnode的计算机硬件要求不高，可以在从节点上，运行的个数为奇数个(至少3个)，允许的故障个数为(n-1)/2
6. 配置

    （1）在hdfs-site.xml里：
    
    a.配置名称服务的昵称
    <property>
		<name>dfs.nameservices</name> 
		<value>mycluster</value>
    </property>
   
    b.为名称服务配置相应的ID唯一标识符：用逗号分开,注意：目前，每个名称服务最多只能配置两个NameNode。
    <property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
    </property>
   
    c.为名称服务的唯一标识符，配置独立完整的rpc地址
    <property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>master:9000</value>
    </property>
    <property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>slave1:9000</value>
    </property>
   
    d.为名称服务的唯一标识符,配置独立完整的http地址
    <property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>master:50070</value>
    </property>
    <property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>slave1:50070</value>
    </property>
   
    f.指定journalnode守护进程所在的机器，及其指定目录(即重用名称服务的值)
    <property>
		<name>dfs.namenode.shared.edits.dir</name>
		<value>qjournal://master:8485;slave2:8485;slave3:8485/mycluster</value>
    </property>
   
    g.配置client用于联系ActiveNamenode的java类型
    <property>
		<name>dfs.client.failover.proxy.provider.mycluster</name>
		<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
    </property>
  
    h.配置防护方式：sshfence,让journalnode守护进程防止脑裂的产生，还必须配置无密码登陆
     <property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence</value>
    </property>

    <property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/home/hyxy（用户名）/.ssh/id_rsa</value>
    </property>


    （2）在core-site.xml中：

    a.配置默认的namenode的请求路径
    <property>
		<name>fs.defaultFS</name>
		<value>hdfs://mycluster</value>
    </property>
    b.配置journalnode所产生的目录的具体路径（说明：mycluster目录的位置）
    <property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/home/hyxy（用户名）/apps/hadoop/tmp</value>
    </property>

在集群中进行配置

hdfs-site.xml


core-site.xml

具体细节：

1. 配置完成后，
   
   将配置文件发送到从节点上

scp -r hadoop_ha wyc@slave1:~/apps/hadoop/etc/

启动相应节点上的journalnode守护进程,

ssh master/slave2/slave3
hadoop-daemon.sh start journalnode

2. 同步元数据

（1）如果是新搭建的集群，选择其中一个namonde所在的机器进行格式化。

hdfs namenode -format

（2）将已经格式化的namenode的元数据同步到另外一个未格式化的namenode上。
目的：就是在另一个未格式化的机器上，生成${hadoop.tmp.dir}/dfs/name，存储最新的镜像文件

a.开启格式化好的namenode

 hadoop-daemon.sh start namenode

b.在未格式化的namenode上，运行如下命令，同步元数据

hdfs namenode -bootstrapStandby

（3）.将本地的元数据初始化到journalnode里

a.关闭namenode

hadoop-daemon.sh stop namenode

b. 初始化，注意，journalnode必须是开启的(n-1/2)

 hdfs namenode -initializeSharedEdits

注意：若是失败，可检查nn1和nn2主机上~/apps/hadoop/etc/目录下 是否创建软链接

3. 开启HA集群

start-dfs.sh

开启顺序：
(1)namenode
(2)datanode
(3)journalnode

4. 测试
(1)查看两个namenode的50070的状态信息
ip:50070


(2)使用命令工具 进行状态切换standby <–> active

hdfs haadmin -transitionToActive nn1

浏览器查看状态

(3) 上传文件/创建目录


(4)kill掉 active主机的namenode（或者切换active状态为standby），查看另一个状态

hadoop-daemon.sh stop namenode
或者
hdfs haadmin -transitionToStandby nn1

(5)将备份namenode 转换成active,检查文件系统是否可用

hdfs haadmin -transitionToActive --forceactive nn2
注意：(--forceactive )是强制切换，是执行了杀死namenode进程命令时候使用

查看创建的目录是否存在