Spark启动分析
Spark进程 :
Master: 负责集群资源分配. 当Client请求资源时将请求分配给某个Worker
Worker: 负责当前节点资源分配. 当收到Master的LaunchExecutor命令时分配资源,启动Executor
ExecutorBackend: 负责执行计算任务. 由Worker启动. 分为MesosExecutorBackend 和 StandaloneExecutorBackend, 分别是使用mesos启动或者直接fork进程
简单流程如下图所示:
Spark job 执行序列图如下: