098实战 Job的调度

本文介绍了Apache Hadoop中的公平调度器(Fair Scheduler)的工作原理及配置方法。公平调度器确保所有应用程序在整个YARN集群生命周期内公平地共享资源。文章还探讨了不同队列之间的资源分配策略,包括FIFO、FAIR和DRF。

一:介绍

1.job调度

  容量调度:Apache Hadoop的默认方式

  公平调度:CDH版本的Hadoop的默认方式

 

2.公平调度

  是一种资源分配方式,在yarn的整个生命周期中,所有的application平均分配资源。当一个应用在运行的时候,首先获取所有的资源,当其他应用提交之后,会重新分配资源。调度器Scheduler将application以queues方式组织,这些queue之间公平共享资源。队列中job使用的策略有FIFO,FAIR(默认),DRF(自定义)。

  fairscheduler提供了一个参数,运行时给定用户或者机器允许提交的最多应用。

  支持多层的queues,所有的queues必须继承“root”,application只允许运行在叶子上。

  

3.配置

  

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值