Hadoop之 NameNode---DataNode---SecondaryNameNode

本文介绍SecondaryNameNode在Hadoop文件系统中的作用,包括合并fsimage和edits文件以加速NameNode启动过程,以及配置和启动SecondaryNameNode的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

NameNode:



DataNode:



SecondaryNameNode存在的意义:

1、格式化namenode之后会生成元数据文件,文件系统会有一个根目录

2、元数据存放在namenode内存中(启动以后)
3、namenode在启动之前,元数据同样会在本地的文件系统中
4、fsimage元数据镜像文件-》存储元数据,namenode在启动的时候会读取fsimage文件
5、用户对于HDFS文件系统的任何行为操作都会导致元数据发生变化-》内存肯定会知道
6、对于HDFS用户行为操作的所有记录都会写到一个文件中,编辑日志文件中,edits文件
7、namenode主节点启动以后会先去读取fsimage文件,再去读取edits文件
8、一般工作中namenode不太会轻易的重启或者关闭
9、用户对于HDFS的操作行为越多,edits文件会越来越大,导致读取时间过长


SecondaryNameNode可以来解决这样的问题

-》合并fsimage文件和edits文件
-》减少namenode启动的时间
11、SecondaryNameNode会去读取fsimage文件和edits文件,加载到内存-》写到一个新的fsimage文件
12、初始的fsimage文件和edits文件=新的fsimage文件
13、再生成一个新的edits文件
14、下次namenode启动的时候会去直接读取新的fsimage文件,速度会快很多
15、修改hdfs-site.xml文件,指定secondarynamenode机器位置和交互端口号50090
<property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>bigdata-01.yushu.com:50090</value>
    </property>
16、启动:
$ sbin/hadoop-daemon.sh start secondarynamenode
17、外部UI界面访问:
http://bigdata-01.yushu.com:50090
-rw-r--r--. 1 root root 515994 Mar 21 10:30 hadoop-root-datanode-bigdatahadoop111.log -rw-r--r--. 1 root root 714 Mar 21 09:38 hadoop-root-datanode-bigdatahadoop111.out -rw-r--r--. 1 root root 714 Mar 21 01:26 hadoop-root-datanode-bigdatahadoop111.out.1 -rw-r--r--. 1 root root 714 Mar 21 00:41 hadoop-root-datanode-bigdatahadoop111.out.2 -rw-r--r--. 1 root root 714 Mar 20 22:59 hadoop-root-datanode-bigdatahadoop111.out.3 -rw-r--r--. 1 root root 714 Mar 20 22:49 hadoop-root-datanode-bigdatahadoop111.out.4 -rw-r--r--. 1 root root 714 Mar 20 10:52 hadoop-root-datanode-bigdatahadoop111.out.5 -rw-r--r--. 1 root root 438175 Mar 21 11:16 hadoop-root-namenode-bigdatahadoop111.log -rw-r--r--. 1 root root 714 Mar 21 09:38 hadoop-root-namenode-bigdatahadoop111.out -rw-r--r--. 1 root root 714 Mar 21 01:26 hadoop-root-namenode-bigdatahadoop111.out.1 -rw-r--r--. 1 root root 714 Mar 21 00:41 hadoop-root-namenode-bigdatahadoop111.out.2 -rw-r--r--. 1 root root 6000 Mar 20 23:07 hadoop-root-namenode-bigdatahadoop111.out.3 -rw-r--r--. 1 root root 714 Mar 20 22:49 hadoop-root-namenode-bigdatahadoop111.out.4 -rw-r--r--. 1 root root 714 Mar 20 10:52 hadoop-root-namenode-bigdatahadoop111.out.5 -rw-r--r--. 1 root root 228425 Mar 21 11:16 hadoop-root-secondarynamenode-bigdatahadoop111.log -rw-r--r--. 1 root root 714 Mar 21 09:38 hadoop-root-secondarynamenode-bigdatahadoop111.out -rw-r--r--. 1 root root 4086 Mar 21 01:50 hadoop-root-secondarynamenode-bigdatahadoop111.out.1 -rw-r--r--. 1 root root 714 Mar 21 00:42 hadoop-root-secondarynamenode-bigdatahadoop111.out.2 -rw-r--r--. 1 root root 714 Mar 20 22:59 hadoop-root-secondarynamenode-bigdatahadoop111.out.3 -rw-r--r--. 1 root root 714 Mar 20 22:49 hadoop-root-secondarynamenode-bigdatahadoop111.out.4 -rw-r--r--. 1 root root 714 Mar 20 10:52 hadoop-root-secondarynamenode-bigdatahadoop111.out.5 -rw-r--r--. 1 root root 169762 Mar 21 11:22 mapred-root-historyserver-bigdatahadoop111.log -rw-r--r--
03-24
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值