spark_程序接收外部传入的参数

原创于 2019-11-04 19:53:39 发布 · 3.3k 阅读

5 ·

CC 4.0 BY-SA版权

Spark 同时被 2 个专栏收录

49 篇文章

订阅专栏

scala

23 篇文章

订阅专栏

本文详细介绍了使用spark-submit命令启动Spark应用程序的方法，包括指定主节点、分配资源等关键参数的设置。通过一个具体示例，展示了如何将参数传递给Spark程序，并在程序中正确获取和使用这些参数。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

spark-submit  --class "test" --master spark://master:7077  /
--driver-cores 16 --executor-cores  16  --conf spark.driver.memory=30G /
--conf spark.executor.memory=30G /
/root/xxx/test/target/scala-2.11/test_2.11-1.0.jar /
"0.8"

传入的参数为0.8，在程序中取到的方法如下：

def main(args: Array[String]): Unit = {
    val t=args(0).toDouble
}

这里的t就等于第一段代码中传入的0.8