相信大多数同学用的都是windows系统,没错,我也是windows系统,主要是因为公司电脑安装了深信服的办公软件,但是这个不支持linux系统,所有我们公司都强制被使用win10。为了调试方便,还是习惯在电脑上装上单机Spark,好在Spark也支持win10。
1.1、安装Java环境
这里我们安装Java8,哎,这会是不是有同学问了现在Java15都有了我们为啥还用Java8了?❓❓❓❓
那是为了保证我们本地的开发环境和生产环境一致嘛,不能因为版本不一样导致部署失败是吧,😊😊😊😊,是不是又有人问,问什么生产环境不能用15呢?对嘛,因为收费呗。如果你还想有人给你发W,那就Java8。🤡🤡🤡🤡
1.1.1、下载安装包,安装
为了不去该死的外网下载,这里我给大家直接提供一下。
百度网盘 jdk-8u261-windows-x64
链接:https://pan.baidu.com/s/1GQfGO7qhxnBPn-AV5HUE7g
提取码:kxsc
下载了,然后直接下一步,下一步,下一步到了选择安装路径的地方,记得选择自己的安装路径哦,记住路径,后边配置环境变量会用,这里我就不贴图了。大家理解。
1.1.2、环境变量
直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加JAVA_HOME,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%JAVA_HOME%\bin\。
打开终端,输入java -version,出现如下图第七步,即成功。
1.2、安装Scala
有人问为什么要装Scala,因为spark就是用scala写的,就酱。。。
1.2.1、下载安装包,安装
scala-2.12.12
链接:https://pan.baidu.com/s/1ZgvlSFgctwoxSLmlyioQUw
提取码:d1qh
scala-2.11.12
链接:https://pan.baidu.com/s/1JQfY3jTbI-TdDzAIMcyP6A
提取码:jfrf
1.1.2、环境变量
直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加SCALA_HOME,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%SCALA_HOME%\bin\。
打开终端,输入scala -version,出现如下,即成功。
Scala code runner version 2.12.12 -- Copyright 2002-2020, LAMP/EPFL and Lightbend, Inc.
1.3、安装Spark
大哥们,真正要做的来了,
1.3.1、下载安装包
大家可以去官网下载想要的版本:http://spark.apache.org/downloads.html
这里我给大家提供了一个版本,大家可以在本地用。
spark-2.4.6-bin-hadoop2.6
链接:https://pan.baidu.com/s/1c-FFipUkKc02g7k6miWPWA
提取码:b6vd
下载到本地,解压即可。
1.3.2、配置spark环境变量
直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加SPARK,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%SPARK%\bin\。
打开终端,输入spark-shell,出现如下Shell即可。
1.3.3、测试
按下面运行,一样即在windows安装成功。
scala