Container exited with a non-zero exit code 1 Failing this attempt. Failing the application.

最新推荐文章于 2024-07-23 21:43:17 发布
原创 最新推荐文章于 2024-07-23 21:43:17 发布 · 4.1k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

在使用Spark on YARN提交任务时遇到错误，提示'Container exited with a non-zero exit code 1'。通过检查YARN日志和stderr文件，发现问题是由于打包的jar中缺少依赖。解决方案是使用sbt-assembly插件将所有依赖打包到fat JAR中，更新`build.sbt`配置，然后重新打包并提交任务。

最近在使用spark on yarn模式提交任务，下面是我测试的案例

--提交命令

spark-submit --master yarn-cluster --class com.htlx.sage.bigdata.spark.etl.Application --driver-memory 1g --num-executors 2 --executor-memory 2g --executor-cores 2  my-spark-etl_2.11-1.0-SNAPSHOT.jar 

--运行后报的错误是


--对这个错误很是郁闷，上网查说是配置问题，可是我运行其他代码就没问题，再说我在搭建集群的时候很是研究了一番，集群不会出现错误，所以我只能去yarn的运行日志中，在yarn的日志中也没有发现什么只有上面这个错误，然后我又去运行该程序的日志中找




-- 查看stderr文件，发现是找不到com/typesafe/scalalogging/Logger

最低0.47元/天 解锁文章
hadoop集群迁移， hive任务执行报错：Container exited with a non-zero exit code 1. Error file: prelaunch.err
A_single_cat的博客
12-02 5534
hadoop 集群迁移 ， apache原生版本迁移到cdh版本时 ， hive任务执行报错： Container exited with a non-zero exit code 1. Error file: prelaunch.err. Last 4096 bytes of prelaunch.err : Last 4096 bytes of stderr : 因为未改动脚本， 以为是集群问题，期间尝试了以下方法， 发现并无效果： #在mapred-site.xml文件中添加mapreduce
Mapreduce运行异常Container exited with a non-zero exit code 1
weixin_52105111的博客
03-08 1万+
MapReduce程序运行异常Container exited with a non-zero exit code 1. Error file: prelaunch.err._SolitaryWalker_0的博客-优快云博客Container exited with a non-zero exit code 1. Error file: prelaunch.err.https://blog.csdn.net/qq_38780623/article/details/121452217?ops_reques
2.IDEA中sbt创建Flink项目及build.sbt配置
02-28 1310
文章目录1. Flink教程1.1. [诸葛子房的博客基础篇](https://www.cnblogs.com/zgzf/p/10794473.html)1.2. [诸葛子房的博客(新)](https://blog.csdn.net/weixin_43291055/category_9115592.html)2. Flink 定义2.1. Flink应用开发相关知识2.2. Flink基本架构原理...
Container exited with a non-zero exit code 1 .Failing this attempt.. Failing the application.
l_lushuang的博客
11-18 9109
Container exited with a non-zero exit code 1 .Failing this attempt.. Failing the application.
Container exited with a non-zero exit code 1
行路中
05-12 1292
很明显是container出错了，但是错误没有提示的很清楚。去对应的nodemanager的userlogs下发现没有任何日志，查看nodemanager日志发现如果任务失败了，默认会删除container日志。调整完了，重新打包一下当前项目，替换一下share/hadoop/yarn/hadoop-yarn-server-nodemanager-3.1.1.jar，重新执行就可以看到container执行日志了。后续经过分析解决了问题。当然container也可能报了其他问题，根据日志可以自行分析解决。
MapReduce程序运行异常Container exited with a non-zero exit code 1. Error file: prelaunch.err.
qq_38780623的博客
11-21 1万+
Container exited with a non-zero exit code 1. Error file: prelaunch.err.
Container exited with a non-zero exit code 1. Error file: prelaunch.err.org.apache.hadoop.mapreduce.
热门推荐
colby_chenlun的博客
05-31 2万+
这两天闲的慌，装了一下新版本的HADOOP 3.2.1，的HA，装好之后，测试wordcount程序时报下面的错误 For more detailed output, check the application tracking page: http://hadoop102:8088/cluster/app/application_1590917926429_0002 Then click on links to logs of each attempt. . Failing the applicati
Container exited with a non-zero exit code 13. Error file: prelaunch.err.
窦永厚
12-20 2274
spark提交报这个错，主要原因是你在代码中指的的是local模式，二用spark-submit提交是指定了yarn集群模式，所以报这个错了，他找不到你的yarn集群。
dolphinscheduler 2.0.5 任务测试（spark task）报错：Container exited with a non-zero exit code 1
06-13 1473
Container exited with a non-zero exit code 1 ModuleNotFoundError: No module named 'py4j' Incomplete HDFS URI, no host: hdfs:///test/softresult path hdfs://192.168.56.10:8020/test/softresult already exists.
Hadoop解决yarn报错Container exited with a non-zero exit code 1. Error file: prelaunch.err.
weixin_65396304的博客
07-23 3130
Hadoop解决yarn报错Container exited with a non-zero exit code 1. Error file: prelaunch.err.
spark on yarn container exited with a non-zero exited code 1 error file ：prelaunch。err
qq_41581936的博客
04-17 2068
在cdh集群上执行spark的demo可以跑通，但是在执行脚本跑jar包读写数据的时候，报错，请各位大佬帮忙看看 报错信息见图
【解决】exited with a non-zero exit code 1
weixin_30478923的博客
12-22 1792
安装好集群后运行hadoop-mapreduce-examples.jar 报错，比对cdh配置后，发现少了yarn.application.classpath，conf目录一定要配置，否则也会出现以上错误。 yarn-site.xml添加 <property> <name>yarn.application.classpath</n...
【异常】Container exited with a non-zero exit code 1 Failing this attempt.Stack trace: ExitCodeException
asdfgh0077的博客
04-20 515
【异常】Container exited with a non-zero exit code 1 Failing this attempt.Stack trace: ExitCodeException
报错：bad substitution ……Container exited with a non-zero exit code 1
liaoyanyunde的博客
10-12 4594
执行Spark任务报错 18/10/10 19:42:57 WARN YarnSchedulerBackend$YarnSchedulerEndpoint: Container marked as failed: container_1538070068357_0019_02_000004 on host: rzx09. Exit status: 1. Diagnostics: Exception...
解决 Application xxx failed 2 times due to AM Container for xxx exited with exitCode: 13 问题
qq_37354060的博客
03-21 1万+
出现问题要首先检查hostname是不是与hadoop、spark配置的一致，不要想当然的认为是一样的，先检查一下最基础的，如果还是不能解决，就要在网上搜索一下了，通常情况下，问题产生的原因都是因为忽略了某个地方的小细节。
Hadoop搭建高可用集群，出现Container exited with a non-zero exit code 1. Error file: prelaunch.err.
l1682686的博客
09-02 7985
前情提要： 搭建好Hadoop HA集群后，试着跑一个wordcount， 结果居然出了这个问题： Container exited with a non-zero exit code 1. Error file: prelaunch.err. 捏????，怎么回事？之前伪分布式或者非高可用的完全分布式好像没有这个问题啊？ 于是百度，噢，原来是mapred-site.xml和yarn-site.xml里要加上classpath 输入hadoop classpath，出来一大串 然后复制这一大串，到map
运行Mapreduce集群时候出现报错：Container exited with a non-zero exit code 1. Error file: prelaunch.err. Last 40
龍承leo
08-06 1242
hadoop classpath返回信息
运行 hadoop jar wc.jar com.sxt.mr.wc.MyWC日志报Application application_1742360401477_0005 failed 2 times due to AM Container for appattempt_1742360401477_0005_000002 exited with exitCode: 1 For more detailed output, check application tracking page:http://my-server:8088/proxy/application_1742360401477_0005/Then, click on links to logs of each attempt. Diagnostics: Exception from container-launch. Container id: container_1742360401477_0005_02_000001 Exit code: 1 Stack trace: ExitCodeException exitCode=1: at org.apache.hadoop.util.Shell.runCommand(Shell.java:575) at org.apache.hadoop.util.Shell.run(Shell.java:478) at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:766) at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:212) at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:302) at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:82) at java.util.concurrent.FutureTask.run(FutureTask.java:262) at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145) at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615) at java.lang.Thread.run(Thread.java:745) Container exited with a non-zero exit code 1 Failing this attempt. Failing the application.
最新发布
04-02
<think>好的，我现在要解决用户遇到的Hadoop作业失败问题，具体是Application因为AM Container退出导致失败，exitCode为1。首先，我需要理解这个问题的可能原因，并逐步排查。 用户提供的错误信息中提到了两个引用。引用[1]是关于Spark读取HBase映射到Hive外部表时的类找不到错误，可能与依赖包版本冲突有关。引用[2]则是ClassNotFoundException，说明在提交作业时，Hadoop集群找不到对应的Mapper类，可能是因为打包时没有正确包含依赖或路径问题。虽然这些引用不完全直接关联当前问题，但可能提供一些线索。 首先，exitCode 1通常表示应用程序主容器（AM Container）遇到了某种错误导致非正常退出。可能的原因包括： 1. **依赖问题**：应用程序的JAR包缺少必要的依赖类，比如用户代码中的Mapper、Reducer类，或者第三方库。比如引用[2]中的ClassNotFoundException，说明类没有被正确打包或加载。需要检查JAR包是否包含所有需要的类，并确认依赖路径是否正确。 2. **资源不足**：AM Container的内存或CPU资源不足，导致容器被YARN杀死。需要检查YARN的资源配置，如yarn-site.xml中的yarn.nodemanager.resource.memory-mb和yarn.scheduler.maximum-allocation-mb，以及应用程序申请的资源是否合理。 3. **配置错误**：例如yarn-site.xml或mapred-site.xml中的配置有误。比如引用[3]中用户可能在编辑yarn-site.xml时格式错误，比如多余的闭合标签或配置项错误，这可能导致YARN服务启动异常，从而影响作业执行。 4. **日志分析**：查看应用程序的日志，特别是AM Container的日志，通常会直接指出错误原因。用户可以通过yarn logs -applicationId <application_id>命令获取详细日志。 接下来，我需要整理解决步骤： 1. **检查应用程序日志**：这是最直接的方式。用户应使用yarn logs命令查看详细错误信息，定位具体异常。 2. **验证JAR包完整性**：确认打包时包含所有依赖，尤其是用户自定义的Mapper、Reducer类。引用[2]中提到将JAR上传到特定目录，可能需要检查类路径是否正确，是否被所有节点访问到。 3. **检查资源配置**：确认YARN的资源配置是否足够，特别是AM Container的内存设置（yarn.app.mapreduce.am.resource.mb），如果设置过低，可以适当增加。 4. **检查配置文件语法**：如引用[3]中的yarn-site.xml可能存在格式错误，需要检查XML文件的结构是否正确，配置项是否拼写正确，比如是否有重复的闭合标签或未闭合的标签。 5. **依赖冲突**：如果存在多个版本的Hadoop或Hive依赖，可能导致类找不到或方法不存在的错误，如引用[1]中的NoSuchMethodError。需要确保所有节点的依赖版本一致，排除冲突的JAR包。 在整理这些步骤时，需要确保用户能够逐步排查，并提供具体的命令和配置示例。例如，如何查看日志，如何调整资源配置，如何检查JAR包内容等。同时，提醒用户注意配置文件的正确性，避免因格式问题导致服务异常。</think>### Hadoop YARN Application失败解决方案（exitCode 1） 当Hadoop作业因**AM Container退出**导致失败（exitCode 1）时，可按照以下步骤排查： --- #### 一、查看应用程序日志 通过YARN日志定位具体错误： ```bash yarn logs -applicationId <application_id> ``` 重点关注以下字段： - **Exit Status Code**（退出码） - **Exception/Error Stack Trace**（异常堆栈） - **资源使用情况**（是否触发OOM） --- #### 二、验证JAR包完整性 1. **检查类路径** 确保JAR包包含所有自定义类（Mapper/Reducer），使用以下命令验证： ```bash jar tf your_job.jar ``` 若未包含必要类文件，需重新打包（使用`mvn package`或`gradle build`）。 2. **依赖冲突排查** 若日志出现`ClassNotFoundException`或`NoSuchMethodError`（如引用[1][^1]和引用[2][^2]）： - 检查Hadoop集群与作业依赖的库版本是否一致（如Hive、HBase、Guava等）。 - 使用`hadoop classpath`命令确认集群类路径，确保无重复依赖。 --- #### 三、调整资源配置 修改`yarn-site.xml`和`mapred-site.xml`，增加AM Container资源： ```xml <!-- yarn-site.xml --> <property> <name>yarn.app.mapreduce.am.resource.mb</name> <value>2048</value> <!-- 默认1024，根据需求调整 --> </property> <property> <name>yarn.app.mapreduce.am.command-opts</name> <value>-Xmx1536m</value> <!-- JVM堆内存 --> </property> ``` --- #### 四、检查配置文件语法 1. **验证XML格式** 如引用[3][^3]中`yarn-site.xml`可能存在语法错误，使用以下命令检查： ```bash xmllint --format yarn-site.xml ``` 修复多余的闭合标签（如`</configuration>>`）或缺失的配置项。 2. **确认关键配置项** 确保以下配置正确： ```xml <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> ``` --- #### 五、其他常见原因 1. **权限问题** 检查HDFS目录权限： ```bash hdfs dfs -ls /user/<username> ``` 确保作业提交用户对相关目录有读写权限。 2. **网络/磁盘空间不足** 通过`df -h`和`yarn node -list`检查集群节点状态。 --- ### 相关问题 1. 如何分析YARN作业的GC日志？ 2. Hadoop集群出现`ClassNotFoundException`的通用解决方法？ 3. YARN资源管理的最佳实践有哪些？ : Spark读取HBase映射到Hive外部表时的依赖冲突问题。 : 作业JAR包未正确包含自定义类导致运行失败。 [^3]: YARN配置文件语法错误导致服务异常。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值