Yarn

YARN是Hadoop的资源管理系统,主要由ResourceManager、NodeManager、ApplicationMaster和Container组成。ResourceManager负责全局资源调度,调度器分配Container,应用程序管理器启动APPMaster。NodeManager管理节点资源,向ResourceManager报告。ApplicationMaster协调资源,与NodeManager执行和监控任务。工作流程中,客户端提交需求给ResourceManager,APPManager分配Container,ResourceScheduler调度任务给APPMaster,再由APPMaster将任务分配给NodeManager执行。

1. Yarn的主要组件

  1. ResourceManager:
    负责处理客户端请求,对个NM上的资源进行统一管理和调度,给ApplicationMaster分配空闲的Container运行并监控其运行状态。主要由调度器和应用程序管理器组成
    1)调度器(scheduler):根据应用程序的资源要求以及集群机器的资源状况,为应用程序分配封装在Container中的资源。
    2)应用程序管理器(ApplicationManager):负责整个系统中所有的应用程序,启动APPMAster,监控APPMaster运行状况,跟踪分给的Container的进度与状态
  2. NodeManager:
    是每个节点上的资源和任务管理器,定时向ResourManager汇报本节点的资源使用情况和各个Container的运行状态。接受来自APPMaster的请求
  3. ApplicationMasteer:
    用户提交的应用程序均包含一个APPMaster,负责应用的监控和状态的跟踪,向ResourceManager协调资源,与nodemanager协同执行和监控Task
  4. Container:
    Yarn中的资源抽象,封装了某个节点上的多维度资源

2. 工作流程

client向ResourceManager提交需求,APPManager处理
APPManager为请求分配资源提供一个Containers给Resource schedule
Resource schedule将任务分给APPMaster
APPMaster将任务分成MapTask和ReduceTask,然后分配给NodeManager
NodeManager任务执行成功后,把成功信息发给APPManager和APPMaster,APPManager进行资源回收
在这里插入图片描述

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值