hadoop概述

1、Hadoop概述
1）Hadoop是一个由Apache基金会所开发的分布式系统基础架构
2）主要解决的是海量数据的储存和海量数据的分析计算
3）广义上hadoop生态圈不止是hadoop，还有hive，hbase，zookeeper等等

2、Hadoop创始人是 Doug Cutting

3、Hadoop优势（4高）
1）高可靠性：Hadoop底层维护多个数据副本，所以即使是Hadoop某个计算单元或存储出错了，也不会导致数据的丢失
2）高扩展性：在集群分配任务数据，可以方便的扩展数以千计的节点
3）高效性：在MapReduce的思想下，Hadoop是并行处理工作，以加快任务的处理速度
4）高容错性：能够自动将失败的任务重新分配

4、Hadoop组成
Hadoop1.x是由common、HDFS、MapReduce组成
Hadoop2.x以后是由common、HDFS、Yarn、MapReduce组成

5、HDFS架构概述
Hadoop Distributed File System 简称HDFS，分布式文件系统
1）NameNode（nn）存储文件元数据，如文件名，文件目录结构，文件属性（生成时间，副本数，文件权限），以及每个文件的块列表和块所在的DataNode等
2）DataNode（dn）在本地文件系统存储文件块数据，以及块数据的校验和
3）Secondary NameNode（2nn）每隔一段时间对DataNode元数据备份

6、YARN架构概述
Yet Another Resource Negotiator 简称YARN 另一种资源协调者，是Hadoop的资源管理器
1）ResourceManager（RM）整个集群资源的老大
2）NodeManeger（NM）单个节点服务器的老大
3）ApplicationMaster（AM）单个任务的老大
4）Container 容器

7、MapReduce架构概述
MapReduce将计算过程分为两个阶段：Map和Reduce
1）Map阶段并行处理输入数据
2）Reduce阶段对Map结果进行汇总