Spark伪分布式启动只有jps没有Master和Worker

本文解决Spark伪分布式环境下,配置spark-env.sh和/etc/profile文件时,因Spark主节点和本地IP设置错误导致jps无法显示Master和Worker进程的问题。通过正确配置IP,确保Spark服务完全启动。

配置Spark伪分布式环境的时候,source  /etc/profile之后,jps查看进程中只有jps进程,没有Master和Worker进程。造成这种情况的原因就是配置spark-env.sh和/etc/profile文件的时候Spark主节点的IP和Spark本地的IP配置错误。

解决办法:

首先查看linux的ip

输入语句:ifconfig

 

第一个红框标记的是Spark主节点的IP,第二个红框标记的是Spark本地的IP。

其次,修改配置文件的相关内容。

进入spark安装目录下的conf,修改spark-env.sh文件

cd  /opt/spark-1.6.3-bin-hadoop2.6/conf/

vim spark-env.sh

修改如图的两处IP地址为上面ifconfig查出来的IP

修改完成保存退出

修改/etc/profile文件

vim /etc/profile

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值