-大数据入门-2-Hadoop-mr提交到yarn的工作流程

本文详细介绍了YARN架构中作业提交流程:用户提交job至YARN,ResourceManager为job分配首个container并启动ApplicationMaster;ApplicationMaster注册并申请资源,启动任务;NodeManager负责任务执行环境配置与任务启动。

mr在yarn架构设计

1.用户向yarn提交job,其中包含application master程序,启动application master的命令等。
2.RM为该job分配第一个container,与对应的NM通信,要求它在这个container启动作业的application master。
3.application master向applications manager注册,这样用户就可以通过RM Web,查看job的状态,一直到最后
4.application master采用轮询的方式通过RPC协议向resource scheduler,申请和领取资源。
5.一旦application master申请到资源后,与对应的NM通信,要求启动task。
6.NM为任务设置好运行环境后,将任务的启动命令写到一个脚本中,并通过该脚本启动任务运行任务。
7.各个 task 通过rpc协议汇报自己的状态和进度,以让application master随时掌握各个任务的运行状态,从而在任务失败时,重启启动任务。
8.job运行完成后,application master向applications manager注销并关闭自己。
在这里插入图片描述

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值