拉链表的另类尝试,存档历史数据

本文探讨了一种简化版的拉链表设计,用于存储和检索历史状态数据。通过对比不同日期的体重数据表,展示了如何仅更新变化的数据,从而节省存储空间。举例说明了如何在不使用传统拉链表的情况下,查询特定日期的数据快照,达到存档历史数据的目的。
  1. 拉链表
    维护历史状态,以及最新状态数据的一种表,拉链表根据拉链粒度的不同,实际上相当于快照,只不过做了优化,去除了一部分不变的记录,通过拉链表可以很方便的还原出拉链时点的客户记录
  2. 拉链表的逻辑相对来说是有一定的难度,现在尝试改造了一种类似于拉链表的存储历史快照数据的方法,记录一下跟大家分享
  3. 举例示范
    有一张体重数据表,每天都会有当天的所有人的体重信息,假如当前日期为20221002

20221001数据信息

dtenameweight
20221001tom185
20221001rose98
20221001korry138
20221001jack126

20221002数据信息

dtenameweight
20221002tom187
20221002rose98
20221002korry136
20221002jack126

现在假如20221001数据已经是数仓里面的历史数据,现在需要将20221002的数据更新进去,很明显只有tom和korry的体重发生变化。
数仓表为weightInfo_his
当天的表为weightInfo_cur

insert into weightInfo_his
select t1.dte, t1.name, t1.weight
from weightInfo_cur,
(
	select t1.dte, t1.name, t1.weight
	from weightInfo_his t1
	join 
	(
		select name,max(dte)  as dte
		from weightInfo_his 
		where dte <= current_date()
		group by name
	) t2
	on t1.name=t2.name and t1.dte=t2.dte
) t2
where t1.name=t2.name and t1.weight<>t2.weight ;

更新完之后查询结果如下:

dtenameweight
20221001tom185
20221001rose98
20221001korry138
20221001jack126
20221002tom187
20221002korry136

查询某个快捷日期当天的数据sql如下:

select t1.dte, t1.name, t1.weight
from weightInfo_his t1
join 
(
	select name,max(dte)  as dte
	from weightInfo_his 
	where dte <= $dte	--dte为输入的快捷日期
	group by name
) t2
on t1.name=t2.name and t1.dte=t2.dte

查询结果为:

dtenameweight
20221001rose98
20221001jack126
20221002tom187
20221002korry136

这样不用拉链表也可以实现历史数据的存档了~

Hive是一个基于Hadoop的数据仓库架构​​,可以用于处理大数据量的结构化和半结构化数据拉链是一种常用于历史数据关联分析的技术。下面我将简要介绍如何在Hive中使用拉链来关联历史数据拉链是一种用于处理数据随时间变动的关联关系的设计方法。它通常包含两个重要的字段:生效日期和失效日期。生效日期示了某个数据的开始日期,失效日期示了该数据的结束日期。 在Hive中,我们可以使用窗口函数和联接操作来实现拉链历史数据关联。首先,我们需要在数据中添加生效日期和失效日期字段,并将历史数据按照日期排序。然后,我们可以使用窗口函数来为每一行数据分配一个唯一的行号,并根据行号对历史数据进行版本化。接下来,我们可以使用联接操作将历史数据和当前数据关联起来,以便进行历史数据的查询和分析。 例如,我们有一个学生student,其中包含学生的信息,还有一个历史变动student_history,用于记录学生信息的变动。我们可以使用拉链的方式将学生和学生历史变动进行关联。 首先,我们可以在student和student_history中添加生效日期和失效日期字段,并将数据按照日期排序。然后,我们使用窗口函数为每一行数据分配一个唯一的行号,并对学生历史变动进行版本化。 接下来,我们可以使用联接操作将学生和学生历史变动进行关联,以便查询某个时间点学生的信息以及变动情况。例如,我们可以查询某个日期范围内学生的姓名、年龄以及变动情况。 在Hive中,使用拉链来关联历史数据可以提供更加全面和准确的历史数据分析。通过使用窗口函数和联接操作,我们可以轻松地实现拉链历史数据关联。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值