大数据之-Hadoop之HDFS_NameNode和Secondary NameNode工作机制_通过文件的增删改查说明---大数据之hadoop工作笔记0070

本文详细介绍了Hadoop HDFS中NameNode和Secondary NameNode的工作机制,包括文件上传时的数据存储过程,如何平衡内存与硬盘速度,以及Secondary NameNode如何定期检查并同步数据,确保数据安全和效率。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

然后我们再来说一下,hadoop的集群中的namenode节点的工作原理.

1.我们先来大体的了解一下,如果有客户端要来上传文件,这个过程,会先访问namenode,给namenode节点发送请求

2.然后在数据传输的时候,namenode会先把数据存到内存中去,然后再传输到不同的datanode节点

3.但是在放到内存中去以后,如果突然断电了怎么办? 这个时候namenode,除了把数据放到内存中一份,还会往硬盘上,写一份

   写的这个文件叫做FsImage.

4.但是如果一有文件来上传namenode就去,把上传的数据放到内存中一份,接着再去放到FsImage一份.这样速度,效率太慢了,因为往硬盘中写数据,太慢

5.所以这个时候就有一个叫edits的文件,这个也是个磁盘文件,当有客户端来请求hadoop,去存文件或者删除数据的时候,namenode会把数据放到内存中,在

   edits文件中也放一份,注意这里edits文件,记录的仅仅是,比如增加了哪些数据,删除了哪些数据,等等,是比较少的信息,仅仅是做了个操作记录.

6.这样传输数据的时候,把数据放到内存中,然后操作记录,放到edits文件中,然后隔一段时间,再去把edits的内容,慢慢的去放到FsImage文件中去.

  这样就解决了速度慢的问题,以及数据安全的问

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

添柴程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值