hadoop Unexpected end of input stream 错误

最新推荐文章于 2025-06-18 17:53:41 发布

转载最新推荐文章于 2025-06-18 17:53:41 发布 · 430 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://yq.aliyun.com/articles/434519

文章标签：

#大数据 #java

本文介绍了一个Hadoop作业中出现的IO异常问题及其解决过程。错误发生在map阶段，由于gz压缩文件损坏导致记录读取失败。通过定位并删除问题文件后，作业恢复正常运行。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

线上一个job出错，报错信息如下：

Diagnostic Messages for this Task:
Error
: 
java.io.IOException: java.io.EOFException: Unexpected end of input stream

        at org.apache.hadoop.hive.io.HiveIOExceptionHandlerChain.handleRecordReaderNextException(HiveIOExceptionHandlerChain.java:121)

        at org.apache.hadoop.hive.io.HiveIOExceptionHandlerUtil.handleRecordReaderNextException(HiveIOExceptionHandlerUtil.java:77)

        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java:276)

        at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java:79)

        at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java:33)

        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.next(HiveContextAwareRecordReader.java:108)

        at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.moveToNext(MapTask.java:196)

        at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.next(MapTask.java:182)

        at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:52)

        at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:428)

        at org.apache.hadoop.mapred.MapTask.run(MapTask.java:340)

        at org.apache.hadoop.mapred.YarnChild$2.run(YarnChild.java:160)

        at java.security.AccessController.doPrivileged(Native Method)

        at javax.security.auth.Subject.doAs(Subject.java:396)

        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1438)

        at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:155)
Caused by: java.io.EOFException: Unexpected end of input stream

        at org.apache.hadoop.io.compress.DecompressorStream.decompress(DecompressorStream.java:143)

        at org.apache.hadoop.io.compress.DecompressorStream.read(DecompressorStream.java:83)

        at java.io.InputStream.read(InputStream.java:82)

        at org.apache.hadoop.util.LineReader.readDefaultLine(LineReader.java:209)

        at org.apache.hadoop.util.LineReader.readLine(LineReader.java:173)

        at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java:206)

        at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java:45)

        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java:274)

        ... 13 more