Hive拉链表更新

      在数据仓库中,拉链表可以节省存储、方便历史查询等好处。本文章所有内容来自 lxw大数据天地,但是里面的实操部分是本人亲自实验,以深入学习拉链表的用法和体会拉链表的好处。其他详细请到文章来源查看:http://lxw1234.com/search/%E6%8B%89%E9%93%BE%E8%A1%A8

拉链表定义:在数据仓库的数据模型设计过程中,经常会遇到这样的需求

  1. 数据量比较大;
  2. 表中的部分字段会被update,如用户的地址,产品的描述信息,订单的状态等等;
  3. 需要查看某一个时间点或者时间段的历史快照信息,比如,查看某一个订单在历史某一个时间点的状态,
    比如,查看某一个用户在过去某一段时间内,更新过几次等等;
  4. 变化的比例和频率不是很大,比如,总共有1000万的会员,每天新增和发生变化的有10万左右;
  5. 如果对这边表每天都保留一份全量,那么每次全量中会保存很多不变的信息,对存储是极大的浪费;拉链历史表,既能满足反应数据的历史状态,又可以最大程度的节省存储;

以下介绍拉链表的更新,可和 lxw大数据天地中的数据仓库中历史拉链表的更新方法 文章一起看。

一、数据准备

     准备好order表数据,0820-0823四天的数据,每天都可能有增删改查操作。如果是每天都同步一次,那么每次的同步数据量很大,那么要查询历史数据时,每天或这个月存一份,当order表很大时,那会大大浪费存储。

order_820.txt
1,2015-08-18,2015-08-18,创建
2,2015-08-18,2015-08-18,创建
3,2015-08-19,2015-08-20,支付
4,2015-08-19,2015-08-20,完成
5,2015-08-19,2015-08-20,支付
6,2015-08-20,2015-08-20,创建
7,2015-08-20,2015-08-20,支付

 order_821.txt 
1,2015-08-18,2015-08-18,创建
2,2015-08-18,2015-08-18,创建
3,2015-08-19,2015-08-21,支付
4,2015-08-19,2015-08-21,完成
5,2015-08-19,2015-08-20,支付
6,2015-08-20,2015-08-20,创建
7,
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值