在阅读spark启动executor源码时候注意一个属性就是先每一个app限制executor数目的变量:executorLimit,因而学习到了动态资源分配。因此近期打算深入学习一下,博文先弄个占位符,避免忘记学习此知识点
配置动态资源管理时候必须配置:
spark.shuffle.service.enabled true
在阅读spark启动executor源码时候注意一个属性就是先每一个app限制executor数目的变量:executorLimit,因而学习到了动态资源分配。因此近期打算深入学习一下,博文先弄个占位符,避免忘记学习此知识点
配置动态资源管理时候必须配置:
spark.shuffle.service.enabled true