简述联邦HDFS

本文介绍了HDFS联邦机制,一种允许HDFS通过创建多个命名空间来提高集群扩展性和隔离性的方案。每个NameNode管理文件系统命名空间的一部分,并维护独立的命名空间。DataNode注册到每个NameNode并为所有存储池提供存储资源。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

是namenode水平扩展方案。该方案允许HDFS创建多个namespace以提高集群的扩展性和隔离性。联邦HDFS允许每个namenode管理文件系统命名空间的一部分。每个namenode维护一个命名空间,不同namenode之间的命名空间相互独立。数据块池不再切分,所以每个DataNode需要注册到每个namenode。

HDFS的底层存储是可以水平拓展的(底层存储指的是datanode,当集群存储空间不够时,可简单的添加机器以进行水平拓展),但namespace不可以。当前的namespace只能存放在单个namenode上,而namenode在内存中存储了整个分布式文件系统中的元数据信息,这限制了集群中数据块,文件和目录的数目。

1.多个NN共用一个集群DN的存储资源,每个NN都可以单独对外提供服务。

2.每个NN都会定义一个存储池,有单独的id,每个DN都为所有存储池提供存储。

3.DN会按照存储池id向其对应的NN汇报块信息,同时,DN会向所有NN汇报本地存储可用资源情况。

4.如果需要在客户端方便的访问若干个NN上的资源,可以使用客户端挂载表,把不同的目录映射到不同的NN,但NN上必须存在相应的目录。

转载于:https://my.oschina.net/134596/blog/1648278

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值