HDFS心跳机制--判断DN失联部分的源码解析

本文详细介绍了Hadoop 2.7.0版本中,NameNode如何检测DataNode的心跳。DataNode通过周期性发送心跳到NameNode,若NameNode在10分钟30秒内未收到心跳,则认为DataNode不可用。这一过程涉及DataNode的初始化、心跳发送以及NameNode的心跳检查机制。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、 前言

今天朋友问我HDFS中,如果namenode 10分30秒没有收到dn心跳,则判断dn不可用,这个10分30秒是怎么来的。翻源码过程如下。版本:hadoop270

二、Datanode发送心跳

1. DataNode.java的main方法

  

2. createDataNode方法

 

3. instantiateDataNode方法

4. makeInstance方法

5. 实例化DataNode对象,在初始化一些配置之后,进入startDataNode方法,启动dn

 

 6. 初始化块池管理器,向nn注册

7. 启动BPOfferService,每个bpos对应一个nn组(一主一备)

 

8. BPServiceActor(每个BPServiceActor对应一个nn)是一个线程,找到其run方法。循环向nn注册/心跳

 

 

 9. offerService方法,拿到nn的代理,通过RPC请求向nn发送心跳

10. NameNodeRpcServer类的sendHeartbeat方法,一路追

 

 

 

 刷新lastUpdateMonotonic这个值

三、NameNode处理心跳 

 1. NameNode的main方法

2. 实例化

 3. 初始化

 4. 启动一些(主备)共有服务

5. 启动一些线程

6. 监控心跳的线程

 

可以看到,每隔5min(heartbeatRecheckInterval)就进行一次心跳检查

7. 心跳检查时候判断dn是否dead,如果10min30S没有收到心跳,既判断为dead

 

node.getLastUpdateMonotonic是datanode调用NN RPC服务时更新的。上文已表述

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值