hive------设计原则

1 使用分区管理HDFS文件

分区避免查询数据进行HDFS全盘扫描,一个表分区数量不要太多(导致每一个分区创建一个task,每一个task是一个jvm实例),没个分区中的文件尽量大(与HDFS数据块保持一致,默认128M)


2 hive反标准化

传统的RDBMS有标准化,例如唯一键、主键等;

hive没有主键、唯一键的概念,目标优化磁盘驱动的IO性能

3 hive允许从一个表中同时向多张表中导出数据

from 源表 

insert overwrite 表1 where 从源表中获取符合条件记录

insert overwrite 表2 where 从源表中获取符合条件记录

insert overwrite 表3 where 从源表中获取符合条件记录

4 使用hive的join提高ETL数据的唯一性

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值