解决A master URL must be set in your configuration错误

最新推荐文章于 2025-06-27 21:32:28 发布

转载最新推荐文章于 2025-06-27 21:32:28 发布 · 2.9k 阅读

文章标签：

#spark配置

大数据/数据挖掘专栏收录该内容

34 篇文章

订阅专栏

本文介绍了解决Spark测试程序SparkPi配置错误的方法。主要问题是未能正确设置master URL。解决方案是在VM options中指定-Dspark.master参数，例如使用local模式进行本地测试。此外，还介绍了如何连接到不同类型的集群。

在运行spark的测试程序SparkPi时，点击运行，出现了如下错误：

Exception in thread "main" org.apache.spark.SparkException: A master URL must be set in your configuration
at org.apache.spark.SparkContext.<init>(SparkContext.scala:185)
at SparkPi$.main(SparkPi.scala:12)
at SparkPi.main(SparkPi.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at com.intellij.rt.execution.application.AppMain.main(AppMain.java:134)
Using Spark's default log4j profile: org/apache/spark/log4j-defaults.properties

从提示中可以看出找不到程序运行的master，此时需要配置环境变量。
传递给spark的master url可以有如下几种：

local 本地单线程
local[K] 本地多线程（指定K个内核）
local[*] 本地多线程（指定所有可用内核）
spark://HOST:PORT 连接到指定的 Spark standalone cluster master，需要指定端口。
mesos://HOST:PORT 连接到指定的 Mesos 集群，需要指定端口。
yarn-client客户端模式连接到 YARN 集群。需要配置 HADOOP_CONF_DIR。
yarn-cluster集群模式连接到 YARN 集群。需要配置 HADOOP_CONF_DIR。

点击run–>edit configuration，在左侧点击该项目。在右侧VM options中输入“-Dspark.master=local”，指示本程序本地单线程运行，再次运行即可。

配置如图：
这里写图片描述