hadoop介绍

本文介绍了Hadoop的两大核心组件HDFS和MapReduce。HDFS采用主从结构,由Namenode管理和维护文件系统的元数据,Datanode负责存储文件的实际数据块。MapReduce同样采用主从结构,JobTracker负责调度计算任务,TaskTrackers执行具体的计算任务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.hadoop的核心分为

(1)HDFS:Hadoop Distributed File System分布式文件系统

(2)MapReduce:并行计算框架。


2.HDFS的架构

主从结构:

        主节点,只有一个:namenode

        从节点,有很多个:datanodes

namenode负责:

         接收用户操作请求

         维护文件系统的目录结构

         管理文件与block之间关系,block与datanode之间关系

datanode负责:

          存储文件 

          文件被分成block存储在磁盘上

          为保证数据安全,文件会有多个副本


3.MapReduce的架构

主从结构:

          主节点,只有一个:JobTracker

          从节点,有很多个:TaskTrackers

JobTracker负责:

          接收客户提交的计算任务

          把计算任务分给TaskTrackers执行

          监控TaskTracker的执行情况

TaskTrackers负责:

          执行JobTracker分配的计算任务

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值