在数据仓库中,拉链表可以节省存储、方便历史查询等好处。本文章所有内容来自 lxw大数据天地,但是里面的实操部分是本人亲自实验,以深入学习拉链表的用法和体会拉链表的好处。其他详细请到文章来源查看:http://lxw1234.com/search/%E6%8B%89%E9%93%BE%E8%A1%A8
拉链表定义:在数据仓库的数据模型设计过程中,经常会遇到这样的需求
- 数据量比较大;
- 表中的部分字段会被update,如用户的地址,产品的描述信息,订单的状态等等;
- 需要查看某一个时间点或者时间段的历史快照信息,比如,查看某一个订单在历史某一个时间点的状态,
比如,查看某一个用户在过去某一段时间内,更新过几次等等; - 变化的比例和频率不是很大,比如,总共有1000万的会员,每天新增和发生变化的有10万左右;
- 如果对这边表每天都保留一份全量,那么每次全量中会保存很多不变的信息,对存储是极大的浪费;拉链历史表,既能满足反应数据的历史状态,又可以最大程度的节省存储;
以下介绍拉链表的更新,可和 lxw大数据天地中的数据仓库中历史拉链表的更新方法 文章一起看。
一、数据准备
准备好order表数据,0820-0823四天的数据,每天都可能有增删改查操作。如果是每天都同步一次,那么每次的同步数据量很大,那么要查询历史数据时,每天或这个月存一份,当order表很大时,那会大大浪费存储。
order_820.txt
1,2015-08-18,2015-08-18,创建
2,2015-08-18,2015-08-18,创建
3,2015-08-19,2015-08-20,支付
4,2015-08-19,2015-08-20,完成
5,2015-08-19,2015-08-20,支付
6,2015-08-20,2015-08-20,创建
7,2015-08-20,2015-08-20,支付
order_821.txt
1,2015-08-18,2015-08-18,创建
2,2015-08-18,2015-08-18,创建
3,2015-08-19,2015-08-21,支付
4,2015-08-19,2015-08-21,完成
5,2015-08-19,2015-08-20,支付
6,2015-08-20,2015-08-20,创建
7,