Hadoop参数：fs.defaultFS、 dfs.name.dir 、 dfs.data.dir

最新推荐文章于 2023-08-08 14:24:50 发布

原创最新推荐文章于 2023-08-08 14:24:50 发布 · 2.7w 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#Hadoop #s.defaultFS #dfs.name.dir #dfs.data.dir

hadoop,spark相关知识专栏收录该内容

7 篇文章

订阅专栏

本文详细介绍了Hadoop分布式文件系统(HDFS)中关键配置项的作用与设置方法，包括默认文件系统fs.defaultFS、名称节点存储目录dfs.name.dir及数据节点存储目录dfs.data.dir。

fs.defaultFS

The name of the default file system. A URI whose scheme and authority determine the FileSystem implementation. The uri's scheme determines the config property (fs.SCHEME.impl) naming the FileSystem implementation class. The uri's authority is used to determine the host, port, etc. for a filesystem.

默认文件系统的名称。一个URI和权威确定文件系统实现的方案。uri的计划决定配置属性(fs.SCHEME.impl)命名文件系统实现类。uri的权威是用来确定主机、端口等对于一个文件系统

<property>
<name>fs.defaultFS</name>
<value>hdfs://172.18.11.2:9000</value>
</property>

dfs.name.dir

Determines where on the local filesystem the DFS name node should store the name table(fsimage). If this is a comma-delimited list of directories then the name table is replicated in all of the directories, for redundancy.

这个参数用于确定将HDFS文件系统的元信息保存在什么目录下。

如果这个参数设置为多个目录，那么这些目录下都保存着元信息的多个备份。

如：

<property>
<name>dfs.name.dir</name>
<value>/pvdata/hadoopdata/name/,/opt/hadoopdata/name/</value>
</property>

dfs.data.dir

Determines where on the local filesystem an DFS data node should store its blocks. If this is a comma-delimited list of directories, then data will be stored in all named directories, typically on different devices. Directories that do not exist are ignored.

这个参数用于确定将HDFS文件系统的数据保存在什么目录下。

我们可以将这个参数设置为多个分区上目录，即可将HDFS建立在不同分区上。

如：

<property>
<name>dfs.data.dir</name>
<value>/dev/sda3/hadoopdata/,/dev/sda1/hadoopdata/</value>
</property>