Spark yarn 模式设置执行器 executor 的核心数目(core number)、数量以及内存

本文介绍了如何在Spark YARN模式下静态设置executor的核心数、数量和内存,以及如何进行动态资源分配。建议每个executor核心数不超过5个,以避免性能下降。在给定的案例中,配置包括17个executor,每个拥有5个核心和约19GB内存。此外,还提到了动态分配的配置方法,并提供了官方文档链接作为参考。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

按需静态设置

参考链接Stack Overflow
接下来的案例包含了标题中的三方面内容:executor 核心数目,executor 数量,executor 内存。例如 driver memory 这样的参数原文并没有提及。

案例:6 个节点,每个节点 16 核 + 64 GB RAM

由于每个 executor 都是一个 JVM 实例,所以我们可以给每个节点分配多个 executor。

  1. 为系统的运行保留资源
    文章原文的内容是:为了保证操作系统和 hadoop 进程的运行,每个节点要预留 1 个核心 + 1 GB 内存。所以每个节点可用的资源为:15 个核心 + 63 GB RAM。
    但是如果你不希望你的系统陷入高负载的情况,你可以多预留一些资源,我个人的使用经验是每个节点预留 4 个核心 + 4 GB 内存。

  2. 确定每个 executor 的核心数量——“magic number”
    executor 核心数量 = executor 能并发执行的任务(task)数量 ,研究表明,不是给 executor 分配越多的核心越好,任何一个 application 分配的核心数目超过 5 个只会导致性能下降,所以我们一般把 executor 核心数量设置为 5 及 5 以下的数字。在接下来的案例讲解中我们把核心数目设置为

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值