初识Hadoop

本文介绍了Hadoop的核心组件HDFS和MapReduce。HDFS是一种分布式文件系统,能够为超大规模应用程序提供高吞吐量的数据访问,并且支持文件分块存储、流式数据访问等功能。MapReduce则是一种用于处理海量数据源并从中提取分析元素的模型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


Hadoop核心就是HDFS和MapReduce

HDFS:Hadoop Distributed File System,Hadoop分布式文件系统,能提供高吞吐量的数据访问,适合超大集群的应用程序。

HDFS特点:
1.大数据文件,非常适合上T级别的大文件或者一大推数据文件的存储;
2.文件分块存储,HDFS将一个完整的大文件平均存储到不同的计算器上,意义在于读取文件时可以从多个主机不同区块读取文件,效率非常高

3.流式数据访问,一次写入,多次读写,支持动态的改变文件内容

4.廉价硬件,HDFS可应用在普通的PC上,这样可以用几十台廉价的计算机就可以撑起一个大数据集群

5.硬件故障问题解决,HDFS会认为所有计算机都可能会有问题,为了防止某个主机失效读取不到该主机的块文件,它将同一个文件块的副本分配到其他几个主机上,如果其中一台失效,可以迅速找另一个主机读取副本文件

MapReduce:是一套从海量数据源中提取分析元素最后返回结果的模型

一般用HDFS来存海量数据,用MapReduce来分析、提取数据
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值