大数据入门学习之Hadoop技术优缺点

本文深入探讨了Hadoop的大数据处理能力,包括其高可靠性、扩展性、高效性和容错性等优点,同时也指出了Hadoop在低延迟数据访问、小文件存储及多用户写入方面的局限性。介绍了Hadoop2的三大核心组件:HDFS、MapReduce和Yarn,以及它们在企业级大数据处理中的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

大数据入门学习之Hadoop技术优缺点

  (1)Hadoop具有按位存储和处理数据能力的高可靠性。
  (2)Hadoop通过可用的计算机集群分配数据,完成存储和计算任务,这些集群可以方便地扩展到数以千计的节点中,具有高扩展性。
  (3)Hadoop能够在节点之间进行动态地移动数据,并保证各个节点的动态平衡,处理速度非常快,具有高效性。
  (4)Hadoop能够自动保存数据的多个副本,并且能够自动将失败的任务重新分配,具有高容错性。

Hadoop的缺点
  (1)Hadoop不适用于低延迟数据访问。
  (2)Hadoop不能高效存储大量小文件。
  (3)Hadoop不支持多用户写入并任意修改文件。

  Hadoop的核心组件
  Hadoop自诞生以来,主要出现了Hadoop1、Hadoop2、Hadoop3三个系列多个版本。
  HDFS和MapReduce是Hadoop1的核心组件,Hadoop生态圈里的很多组件都是基于HDFS和MapReduce发展出来的。在继Hadoop1之后出现了Hadoop2,Hadoop2在Hadoop1的基础上做了改进。相比Hadoop1,Hadoop2的三大核心组件分别是HDFS、MapReduce、Yarn。目前市面上绝大部分企业使用的是Hadoop2,本书使用的是Hadoop2.7.3这一版本。

  Hadoop2的一个公共模块和三大核心组件组成了四个模块,简介如下。
  (1)HadoopCommon:为其他Hadoop模块提供基础设施。
  (2)HDFS:具有高可靠性、高吞吐量的分布式文件系统。
  (3)MapReduce:基于Yarn系统,分布式离线并行计算框架。
  (4)Yarn:负责作业调度与集群资源管理的框架。

 

想成为云计算大数据Spark高手,看这里!戳我阅读

年薪50W的Java程序员转大数据学习路线戳我阅读

大数据人工智能发展趋势与前景  戳我阅读

最全最新的大数据系统交流路径!!戳我阅读

2019最新!大数据工程师就业薪资,让人惊艳!戳我阅读

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值