Spark源码安装与部署

最新推荐文章于 2021-10-11 10:07:49 发布

shell33168

最新推荐文章于 2021-10-11 10:07:49 发布

阅读量395

点赞数

CC 4.0 BY-SA版权

分类专栏： spark

本文链接：https://blog.youkuaiyun.com/shell33168/article/details/89693385

spark 专栏收录该内容

9 篇文章

订阅专栏

本篇博客详细介绍了如何编译Spark源码，包括安装JDK、maven（修改maven默认路径）、scala，以及执行特定的mvn命令进行编译。编译前需在pom.xml中添加仓库，编译完成后会解析出Spark的安装目录结构，包括bin、conf、data、examples、jars、sbin和yarn等关键目录。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

编译步骤

安装JDK
安装maven （需要修改maven默认存储位置）
安装scala
定位到spark源码
mvn -Pyarn -Phadoop-2.6 -Dhadoop.version=2.6.0-cdh5.7.0 -Phive -Phive-thriftserver -DskipTests clean package

或者
./dev/change-scala-version.sh 2.11

./dev/make-distribution.sh
–name 2.6.0-cdh5.7.0
–tgz
-Pyarn
-Dscala-2.11
-Phadoop-2.6
-Dhadoop.version=2.6.0-cdh5.7.0
-Phive -Phive-thriftserver

编译前，需要加入仓库（在spark目录下的pom.xml里面添加）：

cloudera cloudera Repository https://repository.cloudera.com/artifactory/cloudera-repos/

加快编译速度的方法（修改/dev/make-distribution.sh）

VERSION=$("$MVN" help:evaluate -Dexpression=project.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SCALA_VERSION=$("$MVN" help:evaluate -Dexpression=scala.binary.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SPARK_HADOOP_VERSION=$("$MVN" help:evaluate -Dexpression=hadoop.version $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | tail -n 1)
SPARK_HIVE=$("$MVN" help:evaluate -Dexpression=project.activeProfiles -pl sql/hive $@ 2>/dev/null\
    | grep -v "INFO"\
    | grep -v "WARNING"\
    | fgrep --count "<id>hive</id>";\
    # Reset exit status to 0, otherwise the script stops here if the last grep finds nothing\
    # because we use "set -o pipefail"
    echo -n)

改为

VERSION=2.2
SCALA_VERSION=2.11
SPARK_HADOOP_VERSION=2.6.0-cdh5.7.0
SPARK_HIVE=1

Spark安装目录的结构

bin 存放客户端相关的脚本
conf 存放配置文件
data 存放测试数据
example 存放spark自带的测试用例 (重点查看)
jars 存放spark对应的jar包
sbin 存放服务端相关的脚本：启停集群
yarn 存放yarn相关的jar