hadoop
文章平均质量分 60
kequanjade
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
hadoop任务卡死
hadoop 运行mapreduce的时候会卡死在 mapreduce.Job:Running job: job_1477030467429_0002 位置不动思路一:分析:mapreduce卡死不动,原可能是 resourcemanager 或者 nodemanager 配置出错检查yarn-site.xml(yarn.resourcemanager.hostname:配置了reso原创 2017-06-17 14:19:48 · 8868 阅读 · 0 评论 -
hadoop 文件错乱
一个datanode长期挂掉的后,重新运行spark程序报错java.io.IOException:Cannot obtain block length for LocatedBlock解决方法:在Hadoop测试集群运行job的过程中发现部分运行失败,有Cannotobtain block length for LocatedBlock,使用hdfs dfs -cat${文件}的原创 2017-06-17 14:19:11 · 393 阅读 · 0 评论 -
hive索引数据 mysql数据迁移
需求:新建的集群,需要把原集群的hive迁移到新的集群,hdfs数据已经迁移,下面是迁移mysql索引数据的方法注意:本方法中mysql是yum安装的,hive索引数据的账户:hive,密码:hive 1.1 备份原集群的数据[root@localhost ~]# cd /var/lib/mysql (进入到MySQL库目录,根据自己的MySQL的安装情况调整目录)原创 2017-08-26 16:06:50 · 365 阅读 · 0 评论 -
hadoop小文件过多引起的负载过高
一.场景描述系统运行一段时间后,总是报负载过高的警告告警等级: Warning告警信息: Processor load is too high on hadoopmaster告警项目: system.cpu.load[all,avg1]问题详情: Processor load (1 min average per core) 4.43原创 2018-02-07 11:51:40 · 1983 阅读 · 0 评论
分享