通用可选参数:
- --master
MASTER_URL, 可 以 是 spark://host:port, mesos://host:port, yarn, yarn-cluster,yarn-client, local
- --deploy-mode
DEPLOY_MODE, Driver 程序运行的地方,client 或者 cluster,默认是client。
- --class
CLASS_NAME, 主类名称,含包名
- --jars
逗号分隔的本地 JARS, Driver 和 executor 依赖的第三方 jar 包
- --files
用逗号隔开的文件列表,会放置在每个 executor 工作目录中
- --conf
spark 的配置属性
- --driver-memory
Driver 程序使用内存大小(例如:1000M,5G),默认 1024M
- --executor-memory
每个 executor 内存大小(如:1000M,2G),默认 1G
Spark standalone with cluster deploy mode only:
- --driver-cores
Driver 程序的使用 core 个数(默认为 1),仅限于 Spark standalone模式