Mac部署spark2

3. 执行命令source ~/.bash_profile，再验证scala：

base) zhaoqindeMBP:~ zhaoqin$ scala -version

Scala code runner version 2.13.0 – Copyright 2002-2019, LAMP/EPFL and Lightbend, Inc.

4. 下载spark，地址是：http://spark.apache.org/downloads.html ，如下图红框：

5. 将下载的文件在/usr/local/目录下解压，并将文件夹名字从spark-2.4.4-bin-hadoop2.7改为spark

6. 配置spark的环境变量，打开文件~/.bash_profile，增加以下配置内容：

export SPARK_HOME=/usr/local/spark

export PATH=$PATH:$SPARK_HOME/bin

7. 执行命令source ~/.bash_profile使配置生效；

8. 打开文件spark/conf/spark-env.sh，在尾部增加以下三行：

export SCALA_HOME=/usr/local/Cellar/scala/2.13.0

export SPARK_MASTER_IP=localhost

export SPARK_WORKER_MEMORY=2G

9. 确保hdfs和yarn已经启动，然后执行命令spark-shell，即可启动spark服务：

To update your account to use zsh, please run chsh -s /bin/zsh.

For more details, please visit https://support.apple.com/kb/HT208050.

(base) zhaoqindeMBP:~ zhaoqin$ spark-shell

19/10/27 13:33:51 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

Using Spark’s default log4j profile: org/apache/spark/log4j-defaults.properties

Setting default log level to “WARN”.

To adjust logging level use sc.setLogLevel(newLevel). For SparkR, use setLogLevel(newLevel).

Spark context Web UI available at http://zhaoqindembp:4040

Spark context available as ‘sc’ (master = local[*], app id = local-1572154437623).

Spark session available as ‘spark’.

Welcome to

---

/ / ___ ___/ /

\ / _ / _ `/ __/ '/

// ./_,// //_\ version 2.4.4

/_/

Using Scala version 2.11.12 (Java HotSpot™ 64-Bit Server VM, Java 1.8.0_211)

Type in expressions to have them evaluated.

Type :help for more information.

scala>

最后

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，不论你是刚入门Java开发的新手，还是希望在技术上不断提升的资深开发者，这些资料都将为你打开新的学习之门！

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！
套学习资料的朋友可以戳我获取！！**](https://bbs.youkuaiyun.com/topics/618164986)

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！