MapReduce中的排序

在map阶段的最后，

首先调用job.setPartitionerClass对Map输出的List进行分区（partition），每个分区映射到一个reducer。每个分区内又调用job.setSortComparatorClass设置的key比较函数类排序。可以看到，这本身就是一个二次排序。如果没有通过job.setSortComparatorClass设置key比较函数类，则使用key的实现的compareTo方法。在第一个例子中，使用了IntPair实现的compareTo方法，而在下一个例子中，专门定义了key比较函数类。

在reduce阶段，

reducer接收到所有映射到这个reducer的map输出后，也是会调用job.setSortComparatorClass设置的key比较函数类对所有数据对排序。然后开始构造一个key对应的value迭代器。这时就要用到分组，使用jobjob.setGroupingComparatorClass设置的分组函数类。只要这个比较器比较的两个key相同，他们就属于同一个组，它们的value放在一个value迭代器，而这个迭代器的key使用属于同一个组的所有key的第一个key。最后就是进入Reducer的reduce方法。

 

总结：

在map阶段的后期，使用setPartitionerClass进行分区，每个分区中的record需要进行排序，

在reduce阶段，每个reducer接受到的record需要进行排序，排序之后再使用setGroupingComparatorClass进行分组。

 

原文：

http://blog.youkuaiyun.com/HEYUTAO007/article/details/5890103