Spark on Yarn+Hbase环境搭建指南(三)Spark安装

本文详细介绍了如何在Spark on Yarn+Hbase环境中搭建Spark。首先,按照Scala的安装步骤,包括解压、配置环境变量和验证。接着,讲解了Spark的安装过程,涉及解压、配置环境变量、验证和运行示例。内容涵盖了从Spark的版本要求到在不同模式下运行示例的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、Scala安装

Spark官方要求Scala版本为2.10.x, 从Spark1.4开始可能版本有所变更。

步骤:(假设安装目录为/home/seraph/source/)

1)     解压

tar –zxvf scala-2.10.5.tgz

2)     配置环境变量

在~/.bash_profile中加入:

export SCALA_HOME=/home/seraph/source/scala-2.10.5

exportPATH=$PATH:$SCALA_HOME/bin

通过source指令执行此脚本

3)     验证

执行:$scala –version

如果显示如下:

Scala code runner version 2.10.5 – Copyright2002-2013, LAMP/EPFL

则表示成功。

二、Spark安装

1)解压

$tar - -zxvf spark-1.3.1-bin-hadoop2.6.tgz

2)配置

a)     进入conf目录,拷贝spark-env.sh.template并重命名为spark-env.sh

添加如下内容(根据实际情况配置):

   export SCALA_HOME=

   export JAVA_HOME=

   export HADOOP_HOME=

   export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop<

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值