spark-单机部署(三)

本文详细介绍了如何在Windows和Linux环境下进行Spark的单机部署,包括Java、Scala环境的安装与配置,以及Spark和对应版本Hadoop的下载与环境变量设置。适合初学者进行本地开发和学习。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Spark的windows、linux单机部署
1、windows单机部署


  相信大多数同学用的都是windows系统,没错,我也是windows系统,主要是因为公司电脑安装了深信服的办公软件,但是这个不支持linux系统,所有我们公司都强制被使用win10。为了调试方便,还是习惯在电脑上装上单机Spark,好在Spark也支持win10。

废话不多说,我们开始哈。。。

在这里插入图片描述

1.1、安装Java环境
  这里我们安装Java8,哎,这会是不是有同学问了现在Java15都有了我们为啥还用Java8了?❓❓❓❓
那是为了保证我们本地的开发环境和生产环境一致嘛,不能因为版本不一样导致部署失败是吧,😊😊😊😊,是不是又有人问,问什么生产环境不能用15呢?对嘛,因为收费呗。如果你还想有人给你发W,那就Java8。🤡🤡🤡🤡

1.1.1、下载安装包,安装

  为了不去该死的外网下载,这里我给大家直接提供一下。

百度网盘 jdk-8u261-windows-x64
链接:https://pan.baidu.com/s/1GQfGO7qhxnBPn-AV5HUE7g 
提取码:kxsc

下载了,然后直接下一步,下一步,下一步到了选择安装路径的地方,记得选择自己的安装路径哦,记住路径,后边配置环境变量会用,这里我就不贴图了。大家理解。

1.1.2、环境变量

直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加JAVA_HOME,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%JAVA_HOME%\bin\。
打开终端,输入java -version,出现如下图第七步,即成功。


1.2、安装Scala
  有人问为什么要装Scala,因为spark就是用scala写的,就酱。。。

1.2.1、下载安装包,安装

scala-2.12.12
链接:https://pan.baidu.com/s/1ZgvlSFgctwoxSLmlyioQUw 
提取码:d1qh
scala-2.11.12
链接:https://pan.baidu.com/s/1JQfY3jTbI-TdDzAIMcyP6A 
提取码:jfrf

1.1.2、环境变量

直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加SCALA_HOME,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%SCALA_HOME%\bin\。
打开终端,输入scala -version,出现如下,即成功。
Scala code runner version 2.12.12 -- Copyright 2002-2020, LAMP/EPFL and Lightbend, Inc.

1.3、安装Spark

大哥们,真正要做的来了,

1.3.1、下载安装包

大家可以去官网下载想要的版本:http://spark.apache.org/downloads.html
这里我给大家提供了一个版本,大家可以在本地用。
spark-2.4.6-bin-hadoop2.6
链接:https://pan.baidu.com/s/1c-FFipUkKc02g7k6miWPWA 
提取码:b6vd

下载到本地,解压即可。

1.3.2、配置spark环境变量

直接电脑左下角搜索环境变量
点击环境变量
点击新建,第一行添加SPARK,第二行添加你的java路径,确定,如图。
在众多的变量中找到path,点开添加,写上%SPARK%\bin\。
打开终端,输入spark-shell,出现如下Shell即可。

在这里插入图片描述
1.3.3、测试

按下面运行,一样即在windows安装成功。

scala
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值