hive报错

        昨天下午用hive处理日志的时候,突然hive报了一个错“FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.MapRedTask”,在hive里无法查询,查看hadoop日志发现“org.apache.hadoop.mapred.TaskInProgress: Error from attempt_201209122301_0001_m_000024_3: java.io.IOException: Task process exit with nonzero status of 1.查看”Hadoop Map/Reduce Administration“发现map,reduce都被kill掉了,一点进去想看日志却没有,一直没找到哪里出了问题,开始以为是代码除了问题就把代码还原(以前一直运行的好好的),后来把hive重装,hadoop集权重新格式化,都不行。真是百思不得其解。后来终于发现错在哪里了,由于为了调试代码我在“Deserializer”序列化反序列化类里面打印了很多日志。此次处理的日志一天就有大概200W行导致打印的日志太多。而hadoop的日志又放在hadoop的logs下,前几天运行几次,结果导致hadoop的整个目录有差不多300G导致机器硬盘够不。删除日志后就OK了。强烈建议实时监控硬盘,CPU,内存,硬盘,网络。把hadoop的日志配置到其它大的分区去。

附查看文件夹目录大小命令:du -h --max-depth=1 .







评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sinoyang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值