学习笔记 Hadoop是什么?

最新推荐文章于 2025-07-15 18:11:29 发布

转载最新推荐文章于 2025-07-15 18:11:29 发布 · 298 阅读

hadoop 专栏收录该内容

2 篇文章

订阅专栏

本文详细介绍了Hadoop的概念、其主要特点，包括扩容能力、成本低、高效率、可靠性等，并解释了Hadoop实现的分布式文件系统（HDFS）和MapReduce分布式计算模型。同时，概述了Hadoop的API组成，提供了对Hadoop生态系统全面而深入的理解。

本节和大家一起学习一下Hadoop，主要介绍一下Hadoop的概念以及它的特点，欢迎大家一起来学习Hadoop的知识。

1.Hadoop是什么
Hadoop原来是ApacheLucene下的一个子项目，它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。简单地说来，Hadoop是一个可以更容易开发和运行处理大规模数据的软件平台。

2.下面列举hadoop主要的一些特点：

1扩容能力（Scalable）：能可靠地（reliably）存储和处理千兆字节（PB）数据。

2成本低（Economical）：可以通过普通机器组成的服务器群来分发以及处理数据。这些服务器群总计可达数千个节点。

3高效率（Efficient）：通过分发数据，hadoop可以在数据所在的节点上并行地（parallel）处理它们，这使得处理非常的快速。

4可靠性（Reliable）：hadoop能自动地维护数据的多份复制，并且在任务失败后能自动地重新部署（redeploy）计算任务。

3.Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。

HDFS有着高容错性（fault-tolerent）的特点，并且设计用来部署在低廉的（low-cost）硬件上。而且它提供高传输率（highthroughput）来访问应用程序的数据，适合那些有着超大数据集（largedataset）的应用程序。HDFS放宽了（relax）POSIX的要求（requirements）这样可以流的形式访问（streamingaccess）文件系统中的数据。

4.Hadoop还实现了MapReduce分布式计算模型。

MapReduce将应用程序的工作分解成很多小的工作小块(smallblocksofwork)。HDFS为了做到可靠性（reliability）创建了多份数据块（datablocks）的复制（replicas），并将它们放置在服务器群的计算节点中（computenodes），MapReduce就可以在它们所在的节点上处理这些数据了。

如下图所示：