spark执行流程中(taskscheduler源码解释)

本文详细解析了Dagscheduler提交taskset给Taskscheduler后的具体工作流程。Taskscheduler通过创建tasksetmanager管理taskset生命周期,利用resourceoffer方法进行资源分配排序,并通过schedulerbacked方法获取可用executor。同时,介绍了如何通过FifoSchedulerBuilder和FailSchedulerBuilder分解taskset并调度子任务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

  Dagscheduler将taskset提交给Taskscheduler,Taskscheduler主要做了哪些工作呢?

  1>Taskscheduler会将这些taskset放到taskset的缓冲池中,并创建tasksetmanager对taskset进行生命周期的管理

 2>实现类taskschedulerimpl会调用resourceoffer方法。对tasksetmanager进行一个排序,以便资源的分配

 3>调用schedulerbacked方法,给driverendpoint终端点发送消息,获取可用的execotor

 4>创建2种调度池,fifoschedulerbuilder和failschedulerbuilder,将这些taskset分解成对应的小任务,放入到调度池中,由调度池调度这些小的任务集.

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值