hive sort by/order by/cluster by/distribute by

最新推荐文章于 2024-12-06 13:57:55 发布

转载最新推荐文章于 2024-12-06 13:57:55 发布 · 798 阅读

文章标签：

#hive #sort by #order by #cluster by #distribute by

Hive数据仓库专栏收录该内容

13 篇文章

订阅专栏

本文详细解析了SQL中的orderby、sortby及distributeby等关键字的功能与使用场景。orderby实现全局排序，但可能导致较长的计算时间；sortby则在数据进入reducer前完成排序，保证局部有序；distributeby用于数据的分布控制。文章还介绍了这些关键字如何组合使用以提高查询效率。

Order by

[plain]view plaincopy 
   
 colOrder: ( ASC | DESC )  
 orderBy: ORDER BY colName colOrder? (',' colName colOrder?)*  
 query: SELECT expression (',' expression)* FROM src orderBy  

order by 会对输入做全局排序，因此只有一个reducer（多个reducer无法保证全局有序）
只有一个reducer，会导致当输入规模较大时，需要较长的计算时间。
在hive.mapred.mode=strict模式下，强制必须添加limit限制，这么做的目的是减少reducer数据规模，例如，当限制limit 100时，如果map的个数为50，则reducer的输入规模为100*50

Sort by

[plain]view plaincopy 
   
 colOrder: ( ASC | DESC )  
 sortBy: SORT BY colName colOrder? (',' colName colOrder?)*  
 query: SELECT expression (',' expression)* FROM src sort By  

sort by不是全局排序，其在数据进入reducer前完成排序。
因此，如果用sort by进行排序，并且设置 mapred.reduce.tasks>1，则sort by只保证每个reducer的输出有序，不保证全局有序。

Distribute by
根据distribute by指定的内容将数据分到同一个reducer

Cluster by
除了具有Distribute by的功能外，还会对该字段进行排序。因此，常常认为cluster by = distribute by + sort by。