hive 分桶

本文介绍如何使用Hive创建分桶表以提升查询效率。通过指定分桶列和数量,利用哈希运算确定数据分布,支持按列进行数据分桶,并可结合分区进一步优化。通过INSERT INTO方式填充数据。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

创建分桶

hive时针对某一列进行分桶,提高查询效率
hive采用对列值哈希hash,除以桶个数求余的方式,决定记录存放位置

clustered by(col_name)
sorted by(col_name)
into num buckets

根据表分桶

create table tb_name (name string,age int)
    CLUSTERED BY (name)
    INTO 20 BUCKETS

根据分区分桶

create table tb_name(name string,age 20)
    PARTITIONED BY (sex int)
    clustered by (name)
    into 30 buckets;

加载

  • 一个桶就是一个文件
  • load方式不是把数据放在某一文件中,而是复制或剪切的方式直接导入
    查询数据->找相应桶->load数据文件->结果
  • 故采用insert into table的方式将数据插入到不同的桶中。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值