[大数据]Debug:常见错误集合

1. Hadoop

1.1 Yarn公平调度器

在yarn-site.xml 中配置使用公平调度器:

<property>
<name>yarn.resourcemanager.scheduler.class</name>
<value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FairScheduler</value>
</property>

在提交MR任务的时候会出现下面的错误:

java.io.IOException: org.apache.hadoop.yarn.exceptions.YarnException: Failed to submit application_1725292900384_0001 to YARN : root is not a leaf queue
    at org.apache.hadoop.mapred.YARNRunner.submitJob(YARNRunner.java:346)
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:251)
    at org.apache.hadoop.mapreduce.Job$11.run(Job.java:1571)
    at org.apache.hadoop.mapreduce.Job$11.run(Job.java:1568)
 

原因:这意味着你尝试将你的作业提交到一个非叶子队列。在YARN中,队列有层级结构,叶子队列是这个层级结构中最底层的队列,它们没有子队列,因此作业必须提交到叶子队列。

解决方案:
1. hadoop 提交作业时,指定队列名

hadoop/yarn jar xxx.jar --Dmapred.job.queue.name=root.root

2. hive提交作业时,指定队列名

set mapred.job

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值