Spark Core(十二)Spark Worker启动Driver和Executor原理

  1. Spark Worker启动DriverExecutor原理
    1. Worker启动Driver的一个基本原理就是Worker内部会创建一个DriverRunner,然后DriverRunner会启动一个线程,然后创建Driver的工作目录,然后在封装Driver启动命令,用ProcessBuilder启动Driver进程。
    2. Worker启动Exector的一个基本原理就是Worker内部会创建一个ExecutorRunner,然后ExecutorRunner会启动一个线程,然后创建Executor工作目录,然后封装启动Executor命令,用ProcessBuilder启动Executor进程。
    3. Driver启动之后,Executor启动以后会向Driver进行注册
  2. Spark Worker启动DriverExecutor原理图
    这里写图片描述

  3. Spark Worker启动DriverExecutor源码

    1. 启动Driver
      这里写图片描述
      这里写图片描述
      这里写图片描述
      这里写图片描述
      这里写图片描述
    2. 启动Executor:跟启动Driver的流程非常相似,这里就不阐述了。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值