spark 1.3.1 master 源码初探01

本文详细介绍了如何在Spark环境中实现Master的远程调试,并通过调整配置文件和IDEA调试设置,成功启动并运行Spark Master服务。重点在于通过Spark-env.xml配置允许远程调试功能,然后在IDEA中创建相应的远程调试配置,最终在服务器上启动Master,通过Akka建立Actor系统,确保服务稳定运行。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

首先打开远程调试:
    1.在spark/conf/spark-env.xml里面加入下列代码允许master远程调试
          
export SPARK_MASTER_OPTS="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=10000"
    2.IDEA里面创建远程调试配置
        
    3.在服务器上启动master
    3.点击debug(小虫子)就可以开始了




入口:
    org.apache.spark.deploy.master.Master:865 Line Mian


进入startSystemAndActor,这里会通过一系列安全校验后通过Akka建立Actor    




   下面跟进AkkaUtils.createActorSystem





尝试启动服务




若是启动失败,重新尝试以及计算端口 




开始启动




ActorSystem启动完成,下面开始看启动Master:



主构造器中有意思的代码:



查看Master preStart中,订阅事件以及检测Worker心跳




执行到这里master启动就差不多了  , 有时间接着总结。 



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值