windows 客户端使用IDEA远程调试Linux中 spark 代码

1. 修改配置文件

在spark-env.sh , 添加 一行配置，内容如下：

export SPARK_MASTER_OPTS="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=10000"

注意调试端口为10000，在客户端调试是也使用该端口号。

2. 客户端远程链接并调试

客户端使用IDEA进行远程调试Linux 下spark代码

注意：

创建remote应用

输入远程服务端ip地址，及端口为10000

在spark 源代码中加入调试断点，进行debug~