双NameNode的同步机制

本文详细介绍了Hadoop2.0高可用集群中基于JournalNode的双NameNode元数据同步机制。JournalNode作为Active和Standby NameNode间的数据传输介质,确保编辑日志的共享。同时,通过日志管理器(QJM)的机制,保证至少一半以上的JournalNodes接收到ActiveNameNode的EditLog,StandbyNameNode实时监控并同步这些变化,以便在故障切换时保持状态一致。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前言:Hadoop2.0中基于JournalNode的双NameNode的元数据同步机制

日志节点(JournalNode)的概念及作用

JournalNode是HA集群(高可用集群,HighAvailabilityCluster)中Active NameNode(ANN,活动名称节点)和StandBy NameNode(SNN,备用名称节点)之间编辑日志Edits和HDFS元数据共享的传输介质。

主要作用是:为两个NameNode之间共享数据,同步状态。

过程

  1. Active Namenode往Journal Nodes中写EditLog数据

  2. StandBy Namenode再从Journal Nodes中读取EditLog数据进行同步

image-20220215161752512

日志管理器(QJM)的概念及工作原理

概念:QJM是由多个日志节点JournalNodes(JN)组成的JournalNode集群,主要用于存储EditLog,一般运行奇数个JournalNodes,至少需要3个,每个JournalNode保存同样的EditLog副本。

基于QJM共享存储的数据同步机制:

  1. 当Active NameNode执行任何有关命名空间的修改,它需要告知JournalNodes集群中大多数(一半以上)的JournalNodes进程

  2. 而Standby NameNode负责观察集群中JournalNodes的变化,有能力从JournalNodes中读取从Active NameNode发送过来的信息,一直监控EditLog的变化,并更新其内部的命名空间,一直监控EditLog的变化,并更新其内部的命名空间

  3. 一旦Active NameNode遇到错误,Standby NameNode需要已经从JournalNodes中读出全部EditLog日志,保证在故障切换发生前其NameNodes的状态已经完全同步,然后,Standby NameNode再切换成Active状态

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值