Exception in thread "dag-scheduler-event-loop" java.lang.OutOfMemoryError: Java heap space

最新推荐文章于 2024-01-03 04:00:00 发布
原创 最新推荐文章于 2024-01-03 04:00:00 发布 · 3.6k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#scala

本文记录了一个关于Apache Spark应用中出现的内存溢出错误的具体堆栈跟踪。该问题出现在dag-scheduler-event-loop线程中，表现为Java堆空间不足。通过对堆栈跟踪的详细分析，发现错误发生在使用TorrentBroadcast进行对象序列化的过程中。 
Exception in thread "dag-scheduler-event-loop" java.lang.OutOfMemoryError: Java heap space
	at java.nio.HeapByteBuffer.<init>(HeapByteBuffer.java:57)
	at java.nio.ByteBuffer.allocate(ByteBuffer.java:335)
	at org.apache.spark.broadcast.TorrentBroadcast$$anonfun$3.apply(TorrentBroadcast.scala:286)
	at org.apache.spark.broadcast.TorrentBroadcast$$anonfun$3.apply(TorrentBroadcast.scala:286)
	at org.apache.spark.util.io.ChunkedByteBufferOutputStream.allocateNewChunkIfNeeded(ChunkedByteBufferOutputStream.scala:87)
	at org.apache.spark.util.io.ChunkedByteBufferOutputStream.write(ChunkedByteBufferOutputStream.scala:75)
	at net.jpountz.lz4.LZ4BlockOutputStream.flushBufferedData(LZ4BlockOutputStream.java:220)
	at net.jpountz.lz4.LZ4BlockOutputStream.write(LZ4BlockOutputStream.java:173)
	at java.io.ObjectOutputStream$BlockDataOutputStream.drain(ObjectOutputStream.java:1877)
	at java.io.ObjectOutputStream$BlockDataOutputStream.setBlockDataMode(ObjectOutputStream.java:1786)
	at java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1189)
	at java.io.ObjectOutputStream.writeObject(ObjectOutputStream.java:348)
	at org.apache.spark.serializer.JavaSerializationStream.writeObject(JavaSerializer.scala:43)
	at org.apache.spark.broadcast.TorrentBroadcast$$anonfun$blockifyObject$2.apply(TorrentBroadcast.scala:291)
	at org.apache.spark.broadcast.TorrentBroadcast$$anonfun$blockifyObject$2.apply(TorrentBroadcast.scala:291)
	at org.apache.spark.util.Utils$.tryWithSafeFinally(Utils.scala:1377)
	at org.apache.spark.broadcast.TorrentBroadcast$.blockifyObject(TorrentBroadcast.scala:292)
	at org.apache.spark.broadcast.TorrentBroadcast.writeBlocks(TorrentBroadcast.scala:127)
	at org.apache.spark.broadcast.TorrentBroadcast.<init>(TorrentBroadcast.scala:88)
	at org.apache.spark.broadcast.TorrentBroadcastFactory.newBroadcast(TorrentBroadcastFactory.scala:34)
	at org.apache.spark.broadcast.BroadcastManager.newBroadcast(BroadcastManager.scala:62)
	at org.apache.spark.SparkContext.broadcast(SparkContext.scala:1481)
	at org.apache.spark.scheduler.DAGScheduler.submitMissingTasks(DAGScheduler.scala:1039)
	at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$DAGScheduler$$submitStage(DAGScheduler.scala:947)
	at org.apache.spark.scheduler.DAGScheduler.handleJobSubmitted(DAGScheduler.scala:891)
	at org.apache.spark.scheduler.DAGSchedulerEventProcessLoop.doOnReceive(DAGScheduler.scala:1777)
	at org.apache.spark.scheduler.DAGSchedulerEventProcessLoop.onReceive(DAGScheduler.scala:1769)
	at org.apache.spark.scheduler.DAGSchedulerEventProcessLoop.onReceive(DAGScheduler.scala:1758)
	at org.apache.spark.util.EventLoop$$anon$1.run(EventLoop.scala:48)
^[^Z
pyspark异常处理之:java.lang.OutOfMemoryError: Java heap space
不积跬步无以至千里
10-07 6981
问题: java.lang.OutOfMemoryError: Java heap space 报错提示: Py4JJavaError: An error occurred while calling o119.collectToPython. : org.apache.spark.SparkException: Job aborted due to stage failure: Task 3...
算法精解：DAG有向无环图
hooly2000的博客
05-20 1772
本文循序渐进地从图到有向图到有向无环图，详细地介绍了相关术语，api代码实现，也补充入了背包和栈的代码实现，重点研究了图的深度优先搜索算法以及寻找有向环算法。最后对DAG和区块链的关系进行了简介，希望随着技术发展，DAG有望成为真正的区块链3.0。
Exception in thread “main“ java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$PO
m0_55901666的博客
12-18 3593
Exception in thread "main" java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$POSIX.stat(Ljava/lang/String;)Lorg/apache/hadoop/io/nativeio/NativeIO$POSIX$Stat;
Exception in thread “dag-scheduler-event-loop“ java.lang.OutOfMemoryError: Java heap space
weixin_42489619的博客
08-24 892
dag-scheduler-event-loop" java.lang.OutOfMemoryError: Java heap space
Eclipse 保存电影推荐模型时，发生异常 Exception in thread “dag-scheduler-event-loop“ java.lang.StackOverflowError
weixin_44711529的博客
04-14 1011
发现问题 在 Eclipse 运行 ALS 算法进行电影推荐模型时，保存模型 model.save(sc,Path+"ALSmodel")时，发生报错 Exception in thread "dag-scheduler-event-loop" java.lang.StackOverflowError，经在网上搜索，找到如下解决方法。 解决方法 一、环境配置 （1）Linux 系统：VirtualBox 6.1.14, Ubuntu 16.04 （2）hadoop 2.7.1 （3）pyspark 2.
Error while processing statement: FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.tez.TezTask. Vertex failed, vertexName=Map 2, vertexId=vertex_1744630663935_9094950_1_01, diagnostics=[Task failed, taskId=task_1744630663935_9094950_1_01_000007, diagnostics=[TaskAttempt 0 failed, info=[Error: Error while running task ( failure ) : java.lang.OutOfMemoryError: Java heap space at java.nio.HeapByteBuffer.<init>(HeapByteBuffer.java:57) at java.nio.ByteBuffer.allocate(ByteBuffer.java:335) at org.apache.tez.runtime.library.common.sort.impl.PipelinedSorter.allocateSpace(PipelinedSorter.java:259) at org.apache.tez.runtime.library.common.sort.impl.PipelinedSorter.<init>(PipelinedSorter.java:208) at org.apache.tez.runtime.library.output.OrderedPartitionedKVOutput.start(OrderedPartitionedKVOutput.java:151) at org.apache.hadoop.hive.ql.exec.tez.MapRecordProcessor.init(MapRecordProcessor.java:186) at org.apache.hadoop.hive.ql.exec.tez.TezProcessor.initializeAndRunProcessor(TezProcessor.java:266) at org.apache.hadoop.hive.ql.exec.tez.TezProcessor.run(TezProcessor.java:250) at org.apache.tez.runtime.LogicalIOProcessorRuntimeTask.run(LogicalIOProcessorRuntimeTask.java:381) at org.apache.tez.runtime.task.TaskRunner2Callable$1.run(TaskRunner2Callable.java:82) at org.apache.tez.runtime.task.TaskRunner2Callable$1.run(TaskRunner2Callable.java:69) at java.security.AccessController.doPrivileged(Native Method) at javax.security.auth.Subject.doAs(Subject.java:422) at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1878) at org.apache.tez.runtime.task.TaskRunner2Callable.callInternal(TaskRunner2Callable.java:69) at org.apache.tez.runtime.task.TaskRunner2Callable.callInternal(TaskRunner2Callable.java:39) at org.apache.tez.common.CallableWithNdc.call(CallableWithNdc.java:36) at com.google.common.util.concurrent.TrustedListenableFutureTask$TrustedFutureInterruptibleTask.runInterruptibly(TrustedListenableFutureTask.java:125) at com.google.common.util.concurrent.InterruptibleTask.run(InterruptibleTask.java:57) at com.google.common.util.concurrent.TrustedListenableFutureTask.run(TrustedListenableFutureTask.java:78) at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149) at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624) at java.lang.Thread.run(Thread.java:750) , errorMessage=Cannot recover from this error:java.lang.OutOfMemoryError: Java heap space at java.nio.HeapByteBuffer.<init>(HeapByteBuffer.java:57) at java.nio.ByteBuffer.allocate(ByteBuffer.java:335) at org.apache.tez.runtime.library.common.sort.impl.PipelinedSorter.allocateSpace(PipelinedSorter.java:259) at org.apache.tez.runtime.library.common.sort.impl.PipelinedSorter.<init>(PipelinedSorter.java:208) at org.apache.tez.runtime.library.output.OrderedPartitionedKVOutput.start(OrderedPartitionedKVOutput.java:151) at org.apache.hadoop.hive.ql.exec.tez.MapRecordProcessor.init(MapRecordProcessor.java:186) at org.apache.hadoop.hive.ql.exec.tez.TezProcessor.initializeAndRunProcessor(TezProcessor.java:266) at org.apache.hadoop.hive.ql.exec.tez.TezProcessor.run(TezProcessor.java:250) at org.apache.tez.runtime.LogicalIOProcessorRuntimeTask.run(LogicalIOProcessorRuntimeTask.java:381) at org.apache.tez.runtime.task.TaskRunner2Callable$1.run(TaskRunner2Callable.java:82) at org.apache.tez.runtime.task.TaskRunner2Callable$1.run(TaskRunner2Callable.java:69) at java.security.AccessController.doPrivileged(Native Method) at javax.security.auth.Subject.doAs(Subject.java:422) at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1878) at org.apache.tez.runtime.task.TaskRunner2Callable.callInternal(TaskRunner2Callable.java:69) at org.apache.tez.runtime.task.TaskRunner2Callable.callInternal(TaskRunner2Callable.java:39) at org.apache.tez.common.CallableWithNdc.call(CallableWithNdc.java:36) at com.google.common.util.concurrent.TrustedListenableFutureTask$TrustedFutureInterruptibleTask.runInterruptibly(TrustedListenableFutureTask.java:125) at com.google.common.util.concurrent.InterruptibleTask.run(InterruptibleTask.java:57) at com.google.common.util.concurrent.TrustedListenableFutureTask.run(TrustedListenableFutureTask.java:78) at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149) at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624) at java.lang.Thread.run(Thread.java:750) ]], Vertex did not succeed due to OWN_TASK_FAILURE, failedTasks:1 killedTasks:7, Vertex vertex_1744630663935_9094950_1_01 [Map 2] killed/failed due to:OWN_TASK_FAILURE]Vertex killed, vertexName=Reducer 3, vertexId=vertex_1744630663935_9094950_1_02, diagnostics=[Vertex received Kill while in RUNNING state., Vertex did not succeed due to OTHER_VERTEX_FAILURE, failedTasks:0 killedTasks:2, Vertex vertex_1744630663935_9094950_1_02 [Reducer 3] killed/failed due to:OTHER_VERTEX_FAILURE]DAG did not succeed due to VERTEX_FAILURE. failedVertices:1 killedVertices:1 2025-11-06 09:29:18,046 EX_zikang.bai@datasimba 作业执行结束......
最新发布
11-07
Hive使用Tez引擎执行任务报Java heap space内存溢出错误可以通过以下几种方式解决： ### 调整Tez相关参数 在使用Tez引擎时，可设置相关参数，如： ```sql set hive.execution.engine=tez; set tez.am.resource....
使用tez引擎出现内存溢出问题
First_____的博客
05-07 2598
tez引擎出现: java.lang.OutOfMemoryError: Java heap space 问题
数仓开发面试题-Spark
话数Science
10-28 550
和Parquet类似，ORC文件也是以二进制方式存储的，所以是不可以直接读取，ORC文件也是自解析的，它包含许多的元数据，这些元数据都是同构ProtoBuffer进行序列化的。通过这三种文件存储格式的测试对比，ORC文件存储格式无论是在空间存储、导数据速度还是查询速度上表现的都较好一些，并且ORC可以一定程度上支持ACID操作，社区的发展目前也是Hive中比较提倡使用的一种列式存储格式，另外，本次测试主要针对的是Hive引擎，所以不排除存在Hive与ORC的敏感度比PARQUET要高的可能性。
Vertex did not succeed due to OWN_TASK_FAILURE, failedTasks:1 killedTasks:0, Vertex vertex_1732850608310_82366_1_00 [Map 1] killed/failed due to:OWN_TASK_FAILURE]DAG did not succeed due to VERTEX_FAILURE. failedVertices:1 killedVertices:0
07-09
- `java.lang.OutOfMemoryError` 3. 检查任务数据分布： ```sql -- Hive 数据倾斜检查 SELECT key, count(*) FROM table GROUP BY key ORDER BY count(*) DESC LIMIT 10; ``` #### 预防措施 1. **监控配置**：...
Tez线上部署及性能测试:
奈文摩尔ST
04-11 628
背景： 如果作业由多个MR任务完成，则必然经过多次完整的Map–shuffer–Reduce，中间节点的数据多次写入HDFS，浪费IO读写。（可以将HDFS理解为多个任务之间的共享存储。）Tez的引入可以较小的代价的解决这一问题。 Tez采用了DAG（有向无环图）来组织MR任务。 核心思想：将Map任务和Reduce任务进一步拆分，Map任务拆分为Input-Processor-Sort-M...
java实现简单的Dag图
12-17
基于java进行的实现简单Dag图；附件中包含java根据配置的dagJson。1实现了filter过滤，返回指定的字段；2实现了按指定字段排序，返回指定的字段；可以自己添加mysql、Oracle、redis、hive、es、sparksql、clickhouse等存储进来运算
成功解决java.lang.OutOfMemoryError: Java heap space错误
热门推荐
小明的Java问道之路
01-03 12万+
这个错误会在JVM（Java Virtual Machine，Java虚拟机）的堆内存空间不足以满足程序新对象实例创建需求时产生。简单说，它就表示我们的程序已经消耗尽了所有可用的堆内存。
分析：java.lang.OutOfMemoryError: Java heap space
asha2333的博客
02-24 207
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space at java.util.Hashtable.<init>(Hashtable.java:261) at java.util.Hashtable.<init>(Hashtable.java:283) ...
windows下JConsole连接linux服务器java.lang.OutOfMemoryError: Java heap space
zjj2006的专栏
12-27 1690
在windows下用JConsole远程连接服务器会失败，这是JConsole的一个bug。解决方法：在目录tomcat/bin目录下修改catalina.sh文件，修改内容如下： 在# OS specific support.  $var _must_ be set to either true or false.下加入下面这个内容： JAVA_OPTS="$JAVA_OPTS -serve
在集群提交Saprk机器学习的推荐模型任务，报异常Exception in thread “dag-scheduler-event-loop“ java.lang.StackOverflowError
Sun's Blog
06-08 602
在输出目录中，可以看到一部分的输出，但是不完全，因为程序一直在栈溢出。 错误原因 内存过小，数据量过大，发生栈溢出，无法保存模型 解决 设置检查点 在原程序的主方法中添加： sc.setCheckpointDir("your chpoint directory") 因为我这是在hadoop集群上跑，这个目录必须是一个HDFS路径。 其他情况自己看着办 扩展 checkpoint的意思就是建立检查点，类似于快照。 例如在spark计算里面，计算流程DAG特别长,服务器需要将整个DAG计算完成得出结果，但是如果
java.lang.OutOfMemoryError原因分析——让代码茁壮成长
jackpk的专栏
04-14 1729
让代码茁壮成长版权声明：转载时请以超链接形式标明文章原始出处和作者信息及本声明http://maliangsblog.blogbus.com/logs/29154791.html 这几天有些焦头烂额，上个星期就一直被OutOfMemoryError纠缠，所以更改了数据的导入策略，来减少在内存中驻留的数据。但是新的OutOfMemoryError又出现了，而且出现的地方更邪门。原来Error
java.lang.OutOfMemoryError:java heap space错误解决方案(转自网络)
zb0567的专栏
08-05 5600
这个问题主要还是由这个问题 java.lang.OutOfMemoryError: Java heap space 引起的。第一次出现这样的的问题以后，引发了其他的问题。在网上一查可能是JAVA的堆栈设置太小的原因。  　　跟据网上的答案大致有这两种解决方法：  　　1、设置环境变量  　　解决方法：手动设置Heap size  　　修改TOMCAT_HOME/bin/ca
分析和解决java.lang.OutOfMemoryError: Java heap space问题
后端开发
05-31 9836
最近客户反馈在生产环境导入操作时遇到任务一直执行中，并且入库的数据量一直不改变。java.lang.OutOfMemoryError: Java heap space (JVM 堆空间溢出)简单来说就是在创建新的对象时, 堆内存中的空间不足以存放新创建的对象，导致此种问题的发生。
spark从hbase读取数据demo，及异常 “dag-scheduler-event-loop“ java.lang.NoSuchMethodError解决
搬砖的鱼的博客
02-04 755
项目场景： spark是从hbase读取数据 问题描述： Exception in thread “dag-scheduler-event-loop” java.lang.NoSuchMethodError: org.apache.hadoop.mapreduce.InputSplit.getLocationInfo()[Lorg/apache/hadoop/mapred/SplitLocationInfo; Exception in thread "dag-scheduler-event-loop" j
评论 7
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值