Spark安装

下载的是spark-1.6.1-bin-hadoop2.6

1. 解压

tar -zxvf spark-1.6.1-bin-hadoop2.6.tgz -C apps/

2. 修改配置文件

 

增加

export JAVA_HOME=/home/omc/apps/jdk1.7.0_45
export SPARK_MASTER_IP=192.168.0.131
export SPARK_MASTER_PORT=7077

3.分发 apps/spark-1.6.1-bin-hadoop2.6到集群中

scp -r apps/spark-1.6.1-bin-hadoop2.6 192.168.0.x:/home/omc/app/

4.测试是否安装成功

[omc@hadoop1 apps]$ cd  spark-1.6.1-bin-hadoop2.6/sbin/
[omc@hadoop1 sbin]$ start-all.sh 

 

 

 

 

 

### 如何在不同操作系统上安装 Apache Spark #### 安装前准备 为了确保顺利安装 Apache Spark,在任何操作系统下都需要先确认已正确安装 Java 环境以及设置好 JAVA_HOME 变量。对于某些特定场景,可能还需要额外配置 Hadoop 或其他依赖项[^3]。 #### Mac OS 上的安装方式 利用 Homebrew 工具可以让 macOS 用户轻松完成 Spark 的部署工作。通过终端执行命令 `brew install apache-spark` 即可快速获取最新稳定版 Spark 并自动处理大部分必要的初始化操作[^1]。 #### Linux 发行版上的安装指南 大多数主流 Linux 发行版支持通过包管理器来简化软件安装流程。例如 Ubuntu/Debian 类系统可以通过 APT 软件库下载官方二进制文件;而 CentOS/RHEL 则推荐采用 yum 或者 dnf 来获得 RPM 打包好的版本。除此之外,也可以直接前往官方网站下载 tarball 文件解压至自定义路径再手动调整 PATH 参数指向 bin 目录下的工具链[^4]。 #### Windows 下的手动安装过程 Windows 用户通常会选择从官网获取预编译压缩包形式发布的 Spark 版本。解压缩之后需自行设定 SPARK_HOME 和更新系统的 Path 设置以便全局调用 spark-shell 等 CLI 实用程序。值得注意的是由于缺乏原生 POSIX 支持所以在 Win 平台上可能会遇到兼容性问题因此建议考虑借助 WSL (Windows Subsystem for Linux) 进行跨平台开发测试活动。 ```bash # 使用 Homebrew 在 MacOS 上安装 Spark $ brew install apache-spark # 在 Debian/Ubuntu 上使用 apt-get 安装 Spark $ sudo apt-get update && sudo apt-get install -y apache-spark # 在 RedHat/CentOS/Fedora 上使用 yum/dnf 安装 Spark $ sudo yum install -y epel-release $ sudo yum install -y apache-spark # 解压并设置环境变量(适用于所有平台) export SPARK_HOME=/path/to/spark export PATH=$SPARK_HOME/bin:$PATH ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值