数据仓库-数据质量监控

本文阐述了数据质量管理的重要性,强调其在数据驱动决策中的前提作用。详细介绍了数据质量关注的四个方面:完整性、准确性、一致性和及时性,并提供了具体实施的监控策略。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

为什么要做数据质量管理?

提前发现问题,然后去解决,让数据更好的服务于业务。

什么时候开始做呢?

搭建数仓过程中,就要开始做 数据质量管理。要先行 不能后做。数据质量是数据驱动决策的前提

数据质量需要关注的四个点:即完整性、准确性、一致性和及时性

完整性是指数据的记录和信息是否完整。一般会在数据接入的时候来做数据完整性校验

准确性是指数据中记录的信息和数据是否准确 一般准确性的监控多集中在对业务结果数据的监控,比如每日的活跃、收入等数据是否正常

一致性是指同一指标在不同地方的结果是否一致。这是由于计算口径或者开发人员的不同,造成同一指标出现的不同的结果

及时性是要保障数据能够及时产出,这样才能体现数据的价值。可以监控结果数据是否在指定时间点前计算完成。

那具体怎么做的?

表级别的监控:对表的量级用同环比设置一定的阈值进行校验

字段级别的监控:

 枚举值的校验:产品类型、状态值    count(distinct)

 范围判断:特别大的金额。

 脏数据校验:关联维度表去做校验

全链路的监控

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值