七座城堡② OLAP(上)-2025.06.23更新

梁敬彬梁敬弘兄弟出品

往期回顾
七座城堡⓵ OLTP(上)
七座城堡⓵ OLTP(下)

6. 从数据1.0时代走向2.0时代

不久之后,老王再次莅临OLTP城堡,意欲评估城堡在过去一段时间的成果。他目睹着城堡内的繁忙景象,心情愉悦地要求老柯向他详细介绍,为何数据库城堡如此受欢迎,以及与上次检阅时相比有何变化。

老柯:老王,当初因为人员和项目信息纸质保存且散落各处,导致我们工作效率低下,从而给不法之徒留下了可乘之机。这事促使您痛下决心要建这个OLTP城堡,所以城堡建设初期,主要就是解决包括项目在内的人员基本信息的高效存储与调用问题,基本上全国各机构工作人员和相关项目都得到高效的管理,极大的提升了效率。我也给您做了演示,咱们OLTP城堡的功能也非常强大,整体效果还是很不错的。

老王:太好了!

老柯:只是,并非每个人都有档案的,因此人员信息数据终究是不完整的,解决问题的场景还不够大。后来在征求了您的意见后,OLTP数据库城堡内建成了覆盖全国所有人员的全员信息库,信息包括每个公民的身份唯一编码、姓名、性别、出生年月、以及包含人脸在内的生物特征等等。这是一项艰巨的任务,不过在您的大力支持下,我们还是很好的完成了这个工作。如果把当时建成之初定位为快乐王国数据1.0时代的话,那这个全员信息库的建成,就标志着我们进入了快乐王国数据2.0时代。在这个阶段,任何人都可以通过手机端的身份信息APP核验或者人脸识别等模式,来快速证明你是你,从而为办理各种业务提供了极大的便利。当然,好处是全方位的,不只是效率大幅提升。您看现在人们无论工作、出行、访客、消费等所有场景都能通过身份信息来证明你是你,同时还留下行动轨迹,那还有多少人再敢冒名顶替和胡作非为呢。虽然老安这一团伙还没抓住,但是像老安这样的人已经越来越少了。

在这里插入图片描述

老王:哼,老安,你跑不掉了!

老柯:老王,在全国范围内的任何地方,任何一个人在任何一个时间,只要需要证明自己是自己,就会来这里调用我们这个数据库城堡,无论匹配上与否,我们都需要给他们一个反馈。现在您知道咱们OLTP城堡为啥会如此忙碌吧,接下来估计要开始撑不住了。
在这里插入图片描述

老王:能扛住如此大的并发访问,确实不容易,这些查询基本都是走索引吧。

老柯:是的,这是典型OLTP场景,每个人员基本只查和自己相关的信息,所以走索引非常快,但是由于同一时刻调用的请求过多,也是对我们带来了很大的挑战。我们再来看看数据规模也会不断扩大,身份信息有便捷的核验功能,可实现线上线下的打通,从而让很多业务就从线下转移到线上,实现了运营效率的极大提升,当然了,各种交易信息、行为轨迹也自然会让数据规模大幅增长。

老王:老柯,你解释的很到位,这下我算是把这个数据规模和并发大幅增加的原因整明白了,从快乐王国数据1.0时代走向2.0时代后的影响还真不小啊。

7. OLAP分析需求让城堡压力倍增

老柯:老王,由于我们用了各种优化手段,比如索引优化、执行计划优化、读写分离等等,还是撑住了来自四面八的身份信息调用的请求压力,但是真正让我们快要撑不住的,是来自各个主要国家部门,也就是您的智囊团队的数据分析请求压力。

老王(吓了一跳):啥,这是啥情况,我有点听糊涂了。在这里插入图片描述
老柯:咱们国家部门对数据的需求和咱们普通人员对数据的需求是有很大差别的,这其实就是OLTP和OLAP的差异,您看安全部门关注什么,他们关注人员的整体出行轨迹、整体资金走向等;您看统计局关注什么,他们关注人口出生率、人口死亡率、人口性别比例、人口分布等;您看社保部门都关注什么:他们关注的是人口的工资水平分布,人口的就业率、失业率等等;您看卫生部门关注什么,他们关注人口的就医情况,疫苗接种率等。这里我就不一一赘述了。这些部门都有一个共同的特点,那就是他们对数据的分析需求几乎是遍历所有数据,并且往往多表关联,且逻辑非常复杂,这种类型的查询就叫OLAP(Online Analytical Processing)查询。面对这一类的SQL请求,建索引是没有效果的。由于这种请求本身任务就非常重,要访问大量数据库块同时还要进行复杂的运算,所以执行时间都非常长,甚至有部分请求根本就无法查询出结果。

为了更好的完成这类的请求,我们往往给这类请求更多的资源来处理,这样对本来就已经压力很大的铺天盖地的身份认证请求带来了更大的压力。这就是我们OLTP城堡面临的困境。

老王:老柯,你刚才说你用了很多优化手段来助力数据从快乐王国数据1.0时代走向2.0时代。现在面对这些OLAP需求的难关,你就没有应对的方法吗?

老柯:有的,也确实可以大幅提升OLAP场景的处理能力。

老王:老柯啊,你不愧是咱们王国最顶尖的科技人才,说来听听。

未完待续…
七座城堡② OLAP(下)

系列回顾

“大白话人工智能” 系列
“数据库拍案惊奇” 系列
“世事洞明皆学问” 系列

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

收获不止数据库

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值