本文详细介绍了Hive中四种排序方式：orderby、sortby、distributeby及clusterby的区别与使用场景。orderby实现全局排序但效率较低；sortby实现局部排序，适合多reducer的情况；distributeby用于数据分发；clusterby则结合了distributeby和sortby的功能。
Order by：
order by 会对输入做全局排序，因此只有一个reducer（多个reducer无法保证全局有序）
只有一个reducer，会导致当输入规模较大时，需要较长的计算时间。
在hive.mapred.mode=strict模式下，强制必须添加limit限制，这么做的目的是减少reducer数据规模
Sort by：
sort by不是全局排序，其在数据进入reducer前完成排序。
因此，如果用sort by进行排序，并且设置 mapred.reduce.tasks>1， 则sort by只保证每个reducer的输出有序，不保证全局有序。Distribute by：
根据distribute by指定的内容将数据分到同一个reducer
Cluster by：
除了具有Distribute by的功能外，还会对该字段进行排序。因此，常常认为cluster by = distribute by + sort by
扫一扫
98
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
