Hadoop ViewFs 官方文档解读

本文介绍了Hadoop的ViewFS如何解决多集群Namespace问题,通过对比Federation之前的情况,详细阐述新时代下ViewFS的工作原理及配置方法,帮助用户理解如何配置ViewFS以实现集群间的统一文件系统视图。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

官方文档地址:
http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/ViewFs.html

1、简介

ViewFs是用来管理多个Hadoop namespace的一种方案。
具体思路和一些Linux/Unix系统的挂载表十分相似。
ViewFs可以生成某个namespace的视图,或者说某个集群的文件视图。

简单的说,ViewFs解决了多个集群多个namespace的问题,例如Federation的client-side mount table

2、旧时代-在Federation之前

一个集群拥有一个namenode,它为集群提供一个单一的文件系统namespace。假设有很多集群,那么它们的namespace是彼此独立的。更重要的是,物理存储也没有在集群之间进行共享。

单namenode集群
每个集群的core-site.xml有一个配置参数设置默认文件系统的namenode:

<property>
  <name>fs.default.name</name>
  <value>hdfs://namenodeOfClusterX:port</value>
</property>

按照这样配置,如果我们要访问路径/foo/bar,那么hdfs地址就为hdfs://namenodeOfClusterX:port/foo/bar

3、新时代-Federation和ViewFS

假设我们有多个集群,每个集群又有一个或多个namenode。每个namenode有自己的namespace。一个n

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值