Linux -Spark安装

1、使用fz上传spark压缩包到/app/tools/

在这里插入图片描述

2、进入tools目录

 cd /app/tools/

在这里插入图片描述
使用ls查看

3、解压文件

tar -zxvf spark-2.4.1-bin-hadoop2.7.tgz

在这里插入图片描述
![在这里插入图片描述](https://img-blog.csdnimg.cn/eacd1ec892f54c658e91b1564e4df51b.png
在这里插入图片描述
解压成功

4、删除spark文件压缩包

rm -rf spark-2.4.1-bin-hadoop2.7.tgz 

在这里插入图片描述
(rm -rf obt_db.ql是我的另一个sql文件,你们无需此操作)

5、移动spark到/usr/local/spark

mv spark-2.4.1-bin-hadoop2.7/ /usr/local/spark

在这里插入图片描述
查看一下,此时tools下已没有spark

6、进入/usr/local/spark

cd /usr/local/spark/

在这里插入图片描述

6、进入/usr/local/spark下的conf并查看

cd conf/

在这里插入图片描述
(pwd是查看路径)

7、修改spark-env.sh.template名为 spark-env.sh

mv spark-env.sh.template spark-env.sh

在这里插入图片描述

8、修改 spark-env.sh并修改

vim spark-env.sh 

进入spark-env.sh 后按i在第一行插入两行代码

export JAVA_HOAE=/usr/local/java
export SPARK_DIST_CLASSPATH =$(/usr/local/hadoop/bin/hadoop classpath)

在这里插入图片描述

9、查看jps

jps

在这里插入图片描述

10、检查spark是否安装成功

cd /usr/local/spark/sbin/

在这里插入图片描述

10.1

 ./start-all.sh

在这里插入图片描述
至此安装成功

11、启动spark

11.1 进入bin目录
cd ../bin/
11.2启动spark
./spark-shell

在这里插入图片描述
在这里插入图片描述

11.4 简单定义一个数组
var list = List(1,3,5,7,8)

在这里插入图片描述

完结撒花

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

她对我说晚安欸

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值