hadoop总结总结吧

本文详细解析了Hadoop文件系统HDFS的核心设计理念,包括硬件容错、流式数据访问、大文件存储、简单数据一致性模型、数据移动成本优化及master/salve架构。介绍了HDFS由Namenode和Datanode组成,如何实现文件的存储和管理。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

好早之前开始学习hadoop但是都没有系统的学习过,我一向的思维方式是只要没有系统的深入的学习过,就算是不会。。。。。


先说HDFS。

HDFS的设计目标;

1,硬件的容错设计;

2,流式数据访问;

3,支持一个文件几个G甚至是上T

4,简单的数据一致性模型;

5,移动计算比移动数据更划算;

6,master/salve模式;

一个HDFS集群是由一个Namenode和一定数目的Datanodes组成。Namenode是一个中心服务器,负责管理文件系统的名字空间(namespace)以及客户端对文件的访问。集群中的Datanode一般是一个节点一个,负责管理它所在节点上的存储。HDFS暴露了文件系统的名字空间,用户能够以文件的形式在上面存储数据。从内部看,一个文件其实被分成一个或多个数据块,这些块存储在一组Datanode上。Namenode执行文件系统的名字空间操作,比如打开、关闭、重命名文件或目录。它也负责确定数据块到具体Datanode节点的映射。Datanode负责处理文件系统客户端的读写请求。在Namenode的统一调度下进行数据块的创建、删除和复制。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值