大数据_Flink_数据处理_运行时架构3_yarn上作业提交流程---Flink工作笔记0018

本文详细介绍了Flink作业在YARN上的提交过程:客户端首先将Flink JAR和配置上传到HDFS,接着提交作业给YARN的ResourceManager。YARN的ResourceManager启动ApplicationMaster,Flink的JobManager在ApplicationMaster中启动。当有任务时,JobManager向YARN的ResourceManager申请资源,而非直接向Flink的ResourceManager。YARN分配资源到NodeManager,TaskManager在NodeManager中启动并注册到JobManager。整个流程中,资源管理由YARN接管。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

然后我们再来看看,yarn上面的flink的job提交流程,可以看到

首先flink client,1.先去上传flink的jar包和配置,到HDFS,然后,2再提交job任务,给resourcemanager,这个提交的resourcemanager注意是,yarn的resourcemanager对吧,然后

3.yarn的resourcemanager再去启动applicationmaster

4.然后flink的jobmanager这个时候实际上是在yarn的applicationmaster中启动的,启动以后

有任务的时候,jobmanager,首先向flink自己的resourcemanager去申请资源,但是这个时候,

flink自己的resourcemanager收到请求以后,不再处理了,而是把资源申请的请求交给

yarn的resourcemanager去处理,这个时候,yarn的resourcemanager分配了资源也就是

nodemanager以后,这个时候,在nodemanager中,每个节点中就有taskmanager资源了,然后

taskmanager就再去jobmanager去注册自己对吧,就是向jobmanager去注册有几个taskmanager,

也就是有几个slot资源对吧,有了slot以后,然后jobmanager就可以给这些ta

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

添柴程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值