hive中的排序

本文详细介绍了Hive中的排序操作,包括order by的全局排序特性,它需要一个reducer并在严格模式下需配合limit使用;sort by实现局部排序,不保证全局有序,不受mapred.mode影响;distribute by根据指定字段将数据分配到不同reduce,用于数据分区;cluster by结合了distribute by和sort by,但只能进行倒序排序。了解这些概念有助于优化Hive查询性能。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

order by

order by 会对输入做全局排序,因此只有一个reducer**(多个reducer无法保证全局有序)**只有一个reducer,会导致当输入规模较大时,需要较长的计算时间。
Sql代码

  1. set hive.mapred.mode=nonstrict; (default value / 默认值)
  2. set hive.mapred.mode=strict;
    order by 和数据库中的Order by 功能一致,按照某一项 & 几项 排序输出。

与数据库中 order by 的区别在于在hive.mapred.mode = strict 模式下 必须指定 limit 否则执行会报错。

Sql代码
2. hive> select * from test order by id;

Java代码

  1. FAILED: Error in semantic analysis: 1:28 In strict mode, if ORDER BY is specified, LIMIT must also be specified. Error encountered near token ‘id’

原因: 在order by 状态下所有数据会到一台服务器进行reduce操作也即只有一个reduce,如果在数据量大的情况下会出现无法输出结果的情况,如果进行 limit n ,那只有 n * map number 条记录而已。只有一个reduce也可以处理过来。

Hive 提供了多种用于数据排序的函数,每种都有其特定的应用场景和功能特点。以下是几个常见的 Hive 排序函数及其区别: ### 1. **`ORDER BY`** - 功能:将整个结果集按照指定列进行全局排序。 - 特点: - 需要对所有分区的数据集中处理后再排序,因此会产生大量的 shuffle 操作。 - 执行效率较低,尤其对于大数据量的情况。 - 最终的结果会完全按顺序排列。 #### 示例: ```sql SELECT * FROM table_name ORDER BY column_name; ``` --- ### 2. **`SORT BY`** - 功能:每个 Reducer 内部会对分配给它的数据独立地进行局部排序。 - 特点: - 数据仅在各自的 reducer 中排序,并不会保证全局有序。 - 性能优于 `ORDER BY`,因为它减少了跨节点之间的通信开销。 #### 示例: ```sql SELECT * FROM table_name DISTRIBUTE BY another_column SORT BY column_name; ``` 这里需要注意的是通常需要配合 `DISTRIBUTE BY` 使用以控制如何分发数据到不同的 reducer 上面去;如果省略此步骤可能导致无意义的结果。 --- ### 3. **`CLUSTER BY`** - 功能:同时实现了 `DISTRIBUTE BY` 和 `SORT BY` 的效果(即先依据某一字段进行hash分布再对该字段升序排序),并且该字段既作为划分标准也参与排序过程。 - 特点: - 如果你想让某个字段既是分区键又是排序关键字,则可以简化语法只写一次即可完成两项任务。 #### 示例: ```sql SELECT * FROM table_name CLUSTER BY column_name; ``` 等价于: ```sql SELECT * FROM table_name DISTRIBUTE BY column_name SORT BY column_name; ``` --- ### 4. **`BUCKETING` (桶机制)** 虽然不是直接意义上的“排序”操作,但通过预设好的规则把记录放入固定的若干个桶里边存储下来,在某些查询场合下能够达到类似的效果并提高性能。 - 主要用法是在建表阶段定义好桶的数量以及基于哪些维度做bucketing; - 查询时结合其它子句共同使用可以获得更高效的检索能力。 #### 创建带 bucket 的表格示例: ```sql CREATE TABLE IF NOT EXISTS mytable ( id INT, name STRING) CLUSTERED BY(id) INTO 8 BUCKETS; ``` --- 总结来说选择合适的排序策略取决于实际需求如是否需要绝对次序、计算资源限制等因素综合考量之后确定最佳方案。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

辉哥大数据

你的鼓舞将是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值