Hive 分区

1. 建立多个表,每个表导入不同的数据
create table test_1 (id int);
create table test_2 (id int);
create table test_3 (id int);
............
2. 创建分区表
create table test(id int) partitioned by (name sting);
alter table test add partition (name = '1')
alter table test add partition (name = '2')
切忌分区过多, namenode 压力太大
3. 分区数目太多可以考虑分桶
create table test(id int, name string) partitioned by (age int) clustered by (id) into 96 buckets;
# Hive 分区详解 ## 1. 分区基本概念 Hive分区是一种将表数据按照某个或某些列的值进行物理划分的技术,主要目的是提高查询效率。 ### 分区特点: - **物理存储**:每个分区对应HDFS上的一个独立目录 - **查询优化**:查询时只扫描需要的分区,减少I/O - **管理便利**:可以单独对某个分区进行操作 ## 2. 分区类型 ### (1) 静态分区 ```sql -- 创建分区表 CREATE TABLE employees ( id INT, name STRING, salary FLOAT ) PARTITIONED BY (dept STRING, year INT); -- 加载数据到特定分区 LOAD DATA LOCAL INPATH '/path/to/data' INTO TABLE employees PARTITION (dept='IT', year=2023); ``` ### (2) 动态分区 ```sql -- 启用动态分区 SET hive.exec.dynamic.partition=true; SET hive.exec.dynamic.partition.mode=nonstrict; -- 从已有表动态插入数据 INSERT INTO TABLE employees PARTITION(dept, year) SELECT id, name, salary, dept, year FROM source_table; ``` ## 3. 分区管理操作 ### (1) 查看分区 ```sql SHOW PARTITIONS employees; -- 查看特定分区 SHOW PARTITIONS employees PARTITION(dept='IT'); ``` ### (2) 添加分区 ```sql ALTER TABLE employees ADD PARTITION (dept='HR', year=2023); ``` ### (3) 删除分区 ```sql ALTER TABLE employees DROP PARTITION (dept='HR', year=2023); ``` ### (4) 修改分区 ```sql -- 修改分区值 ALTER TABLE employees PARTITION (dept='OLD', year=2023) RENAME TO PARTITION (dept='NEW', year=2023); -- 修改分区位置 ALTER TABLE employees PARTITION (dept='IT', year=2023) SET LOCATION '/new/location'; ``` ## 4. 分区优化建议 1. **合理选择分区键**:选择高基数列且常用作查询条件的列 2. **避免过度分区**:分区数量过多会导致小文件问题 3. **分区大小均衡**:尽量使各分区数据量均匀分布 4. **考虑分区粒度**:按日、月或年分区取决于查询需求 ## 5. 分区与分桶对比 | 特性 | 分区 | 分桶 | |------|------|------| | 划分方式 | 按列值 | 按哈希值 | | 存储方式 | 不同目录 | 不同文件 | | 主要用途 | 减少扫描范围 | 提高join效率 | | 数量影响 | 不宜过多 | 可较多 |
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值