HDFS详解

本文详细介绍了HDFS的概述、优缺点、架构,重点讨论了NameNode、DataNode、SecondaryNameNode的角色与工作机制,以及HDFS的文件读写流程和数据完整性保障。HDFS作为Hadoop的核心组件,其分布式存储特性适用于大数据处理,但不适用于低延迟场景和小文件存储。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、HDFS概述

在Hadoop分布式系统的框架中,首要的存储数据的功能是由HDFS这个分布式文件系统完成的。如果把Hadoop框架比喻成一个工厂,那么HDFS就像是整个工厂的仓库。

二、HDFS优缺点

优点:高容错性,能够将失败的任务重新分配,适合大数据开发,可以构建在廉价机器上。

缺点:不适合低延时时间数据访问,无法对大量小文件进行储存,小文件寻址时间会超过读取时间,不支持并发写入,文件随意修改,仅支持追加。

三、HDFS架构

preview

HDFS是一个分布式的储存组件,是由主从体系结构。主要由namenode(简写NN),datanode(简写DN),secondarynamenode(简写2NN)三部分组成。

1、namenode

负责管理文件系统的元数据,以及每个文件的元数据和映射关系。配置数据的副本策略,处理客户端的读写请求。

2、datanode

DN是实际储存数据的空间,执行客户端的读写请求。根据NN的副本机制来储存。

3、secondarynamenode

用来监控HDFS状态的辅助后台程序,每隔一段时间获取HDFS的元数据快照,辅助namenade管理元数据信息。但是当NN挂掉,不能马上代替NN的服务。

四、HDFS的安全模式

安全模式是hadoop的一种保护机

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值