HDFS Federation

HDFS Federation使用多个独立NameNode/Namespace实现HDFS命名服务水平扩展,NameNode相互独立,提供命名空间和块管理功能。DataNode为公共存储块处,向所有NameNode注册。为管理多命名空间,采用Client Side Mount Table,将各命名空间挂载到全局表实现数据共享。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

HDFS Federation使用了多个独立的NameNode/Namespace来使HDFS的命名服务能够水平扩展。在HDFS Federation中,NameNode之间是联盟关系,他们之间相互独立且不需要相互协调。HDFS Federation中的NameNode提供了命名空间和块管理功能。

HDFS Federation中的DataNode被所有的NameNode用作公共存储块的地方。每一个DataNode都会向所在集群中所有的NameNode注册,并且会周期性的发送心跳和块信息报告,同时处理来自所有NameNode的指令。

原理
Federation对NameNode的访问主要在客户端实现,Federation中存在多个NameNode命名空间,如何划分和管理这些命名空间非常关键。由于文件有可能被放到不同Namespace中,HDFS需要访问所有Namespace,代价过大。

为了方便管理多个命名空间,HDFS Federation采用了经典的Client Side Mount Table(社区ViewFS功能)。通过客户端侧将应用的不同路径映射到具体的NameService上,从而达成存储分离或者性能分离的场景。如图1所示,下面三个矩形代表三个相互独立的命名空间,上方蓝色的三角形代表从客户角度去访问的命名空间(即ViewFS)。各个矩形的命名空间Mount到蓝色的表中,客户可以访问不同的挂载点来访问不同的命名空间,类似在Linux系统中访问不同挂载点一样。这就是HDFS Federation中命名空间管理的基本原理:将各个命名空间挂载到全局mount-table中,就可以将数据进行全局共享。同样的命名空间挂载到统一的mount-table中,这就成为应用程序可见的命名空间视图。
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值