Spark-Submit提交参数详解

本文详细介绍了Spark-Submit的各个参数,包括通用可选参数、Spark standalone在集群部署模式下的参数、Spark standalone或Mesos独有的参数、Spark standalone和YARN特有的参数以及YARN专用参数。内容涉及--master, --deploy-mode, --class, --jars, --executor-memory等关键选项,指导用户如何配置和提交Spark作业。" 82952127,7768725,Ubuntu环境下MT7603 WiFi驱动与wpa_supplicant移植教程,"['Linux驱动开发', '网络配置', '无线通信', '设备驱动', 'Ubuntu']

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

通用可选参数:

  •  --master

       MASTER_URL, 可 以 是 spark://host:port, mesos://host:port, yarn, yarn-cluster,yarn-client, local

  • --deploy-mode

       DEPLOY_MODE, Driver 程序运行的地方,client 或者 cluster,默认是client。

  •  --class

       CLASS_NAME, 主类名称,含包名

  • --jars

        逗号分隔的本地 JARS, Driver 和 executor 依赖的第三方 jar 包

  •  --files

       用逗号隔开的文件列表,会放置在每个 executor 工作目录中

  • --conf

       spark 的配置属性

  • --driver-memory

      Driver 程序使用内存大小(例如:1000M,5G),默认 1024M

  •  --executor-memory

      每个 executor 内存大小(如:1000M,2G),默认 1G

Spark standalone with cluster deploy mode only:

  • --driver-cores

      Driver 程序的使用 core 个数(默认为 1),仅限于 Spark standalone模式


Spark

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

我是一名程序猿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值