hadoop reducer不执行问题及解决

本文描述了在使用Hadoop实现WordCount时遇到Reducer未执行的问题,分析了原因,并提供了详细的解决步骤,包括检查Reducer类定义、调整reduce方法参数,最终成功实现了单词计数功能。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、问题描述:

在eclipse上通过hadoop插件自动生成mapper、reducer、main方法类实现wordcount的统计。

待处理的文件内容:

hello tom
hello joy
hello rose
hello joy
hello jerry
hello tom
hello rose

hello joy

测试了几次,处理的结果都为:

hello 1
hello 1
hello 1
hello 1
hello 1
hello 1
hello 1
hello 1
jerry 1
joy 1
joy 1
joy 1
rose 1
rose 1
tom 1

tom 1

并没有实现到按单词统计出现次数的结果。

二、问题分析

1、从上面你的结果分析,reducer根本没有起作用,但是程序却能运行无报错

2、在reducer中增加一些相应的打印语句,也无输出,确认reducer是没有执行到,分析了很久也没有找到问题所在

3、上网搜索了一下,找到了问题所在

https://blog.youkuaiyun.com/world_java/article/details/17427631

三、问题解决

1、有问题的reducer类定义,无报错(但实际调用了默认的reduce方法处理)

2、reduce方法增加@override后,出现报错


3、检查后发现是Reducer的参数有问题Iterable<LongWritable>,修改为LongWritable后,错误消除

4、执行结果

hello 8
jerry 1
joy 3
rose 2

tom 2

建议在重写方法时加入@override,这样可以检测出重写错误。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值