数仓建模过程——写指标

数据仓库建模(四):维度表的设计 数据仓库建模(四):维度表的设计维度表的结构 维度表的结构 阅读详情

1、维度:描述信息
事实:度量值
比如:我早上花了5元买早餐,其中时间地点买了什么等就是描述信息就是维度,具体的金额数字就是事实

2、ods层一般就是原始数据 比如用户行为日志,导入到hdfs中是一条条日志,那么日志的ods层表结构就只有string类型的一条日志
从mysql导入到hdfs的有27张表 那么ods层应该与其对应就是27张表,表结构与mysql中对应

3、dim(维度表)和dwd(事实表)

4、如何确定有哪些表以及字段?

选择业务过程→声明粒度→确认维度→确认事实

(1)选择业务过程

在业务系统中,挑选我们感兴趣的业务线,比如下单业务,支付业务,退款业务,物流业务,一条业务线对应一张事实表。

(2)声明粒度

数据粒度指数据仓库的数据中保存数据的细化程度或综合程度的级别。

声明粒度意味着精确定义事实表中的一行数据表示什么,应该尽可能选择最小粒度,以此来应各种各样的需求。

典型的粒度声明如下:

订单事实表中一行数据表示的是一个订单中的一个商品项。
支付事实表中一行数据表示的是一个支付记录。

(3)确定维度

维度的主要作用是描述业务是事实,主要表示的是“谁,何处,何时”等信息。
确定维度的原则是:后续需求中是否要分析相关维度的指标。例如,需要统计,什么时间下的订单多,哪个地区下的订单多,哪个用户下的订单多。需要确定的维度就包括:时间维度、地区维度、用户维度。

(4)确定事实

此处的“事实”一词,指的是业务中的度量值(次数、个数、件数、金额,可以进行累加),例如订单金额、下单次数等。
在DWD层,以业务过程为建模驱动,基于每个具体业务过程的特点,构建最细粒度的明细层事实表。事实表可做适当的宽表化处理

   时间	  用户	 地区	  商品	  优惠券	  活动	      度量值

订单 √ √ √ 运费/优惠金额/原始金额/最终金额
订单详情 √ √ √ √ √ √ 件数/优惠金额/原始金额/最终金额
支付 √ √ √ 支付金额
加购 √ √ √ 件数/金额
收藏 √ √ √ 次数
评价 √ √ √ 次数
退单 √ √ √ √ 件数/金额
退款 √ √ √ √ 件数/金额
优惠券 √ √ √ 次数

如上表格,先是确定业务,也就是确定有什么事实表,纵轴 订单、订单详情等就代表业务,也就是一个事实表
横轴是维度,确认业务和维度是否有关系时,需要看在建立业务表时候他们之间的关系
事实表里面的字段是维度外键+度量值
维度表的每行数据就是一个维度对象 比如用户维度就是一个用户 维度表的字段包括所有属性 与其相关表的所有字段

5、dws 和 dwt 提高复用性,避免重复计算
DWS层和DWT层统称宽表层,这两层的设计思想大致相同,通过以下案例进行阐述。
1)问题引出:两个需求,统计每个省份订单的个数、统计每个省份订单的总金额
2)处理办法:都是将省份表和订单表进行join,group by省份,然后计算。同样数据被计算了两次,实际上类似的场景还会更多。
那怎么设计能避免重复计算呢?
针对上述场景,可以设计一张地区宽表,其主键为地区ID,字段包含为:下单次数、下单金额、支付次数、支付金额等。上述所有指标都统一进行计算,并将结果保存在该宽表中,这样就能有效避免数据的重复计算。
宽表中字段:维度ID(主键)+维度模型中跟地区相关的事实表中的度量值的聚合值
3)总结:
(1)需要建哪些宽表:以维度为基准。
(2)宽表里面的字段:是站在不同维度的角度去看事实表,重点关注事实表聚合后的度量值。
(3)DWS和DWT层的区别:DWS层存放的所有主题对象当天的汇总行为,例如每个地区当天的下单次数,下单金额等,DWT层存放的是所有主题对象的累积行为,例如每个地区最近7天(15天、30天、60天)的下单次数、下单金额等。

6、ads由需求决定。

数据仓库【指标体系】 指标体系可以帮助我们整体理解业务、全面了解问题、快速定位问题、迅速落地方案,我们说的指标体系不止是指标,还有指标管理和指标监控。 阅读详情

相关推荐

数仓建模的思路步骤

背景 通过最近的学习与工作总结,针对不同层级的数仓建模特点,记录数仓建模实战中的一些思路与步骤。涉及到的数仓分层有:ODS层、DWD层、DWS层/DWT层、ADS层,其中ODS层属于业务数据库贴源层,存放的数据与业务系统源表保持一致,所以此处不做讲解。 DWD层建模思路与步骤 dwd层是以业务过程为驱动进行建模,dwd层需要构建维度模型,采用星型模型构建,呈现的形态为星座模型。 dwd层建模步骤 选择业务过程->声明粒度->确认维度->确认事实 选择业务过程 如何选择业务过程

。。。。。 2388

数据消费过程_数据仓库指标体系的搭建——内容篇

内容信息类产品:以内容生态建设为基础,依靠内容分发能力实现用户增长,最后通过流量达到商业变现的目的的一种产品。根据产品定位不同,内容生态也会有所差异,有泛资讯的头条和看点,新闻类体裁的腾讯新闻,视频类的抖音和快手等。这类产品大体上可以将产品能力划分为内容生态、分发能力、用户增长、商业变现等几个方面。产品能力矩阵以头条为例,最初的头条没有自己的内容,宣称为内容的搬运工,通过爬取内容通过强...

weixin_34901388的博客 277

数仓建模的全过程【重点】

数仓从前到后分为ODS原始数据层、DWD明细数据层、DIM维度层、DWS服务数据层、DWT数据主题层、ADS数据应用层。 ...

m0_51697147的博客 3520

数据仓库指标体系搭建实战

指标体系1. 痛点分析主要从业务、技术、产品三个视角来看:业务视角业务分析场景指标、维度不明确;频繁的需求变更和反复迭代,数据报表臃肿,数据参差不齐;用户分析具体业务问题找数据、核对确认数据成本较高。技术视角指标定义,指标命名混乱,指标不唯一,指标维护口径不一致;指标生产,重复建设;数据汇算成本较高;指标消费,数据出口不统一,重复输出,输出口径不一致;产品视角缺乏系统产品化支持从生产到消费数据流...

大数据星球-浪尖 464

数仓建模理论

数仓建模就好比是图书馆的书能够分门别类的存放,不仅合理,齐全,而且易于查找。数据模型就是数据组织和存储方法,强调从业务、数据存取和使用角度合理存储数据。只有将数据有序的组织和存储起来,数据才能高性能、低成本、高效率、高质量的使用。高性能:能够帮助我们快速查询所需要的数据。低成本:能减少重复计算,实现计算结果的复用,降低计算成本。高效率:能极大的改善用户使用数据的体验,提高使用数据的效率。高质量:能改善数据统计口径的混乱,减少计算错误的可能性。

大数据知识梳理 1752

数仓建模的4种方法论

大数据的数仓建模,是通过建模的方法,从业务和数据分析使用的角度出发,更合理的、高效的组织和存储数据。同时分层后的数据,拥有更加完整的数据体系,清晰的数据结构。能够有效提高数据获取、统计和分析的效率,进一步为业务发挥出数据的价值。每一个数据分层都有它的作用域,这样我们在使用表的时候能更方便地定位和理解。1)解决数据集成和数据质量问题:集成不同源系统的数据,并将其进行整合,消除异构性和冗余性,提供一致的数据;对数据进行统一清洗、转换和加工,屏蔽脏数据;字段命名的统一规范化;

qq_32278923的博客 2223

数仓思想、数仓建模、维度建模理论、数仓面试题

数仓思想、数仓建模、维度建模理论、数仓面试题

一个大数据的爱好者 1299

Django 4.x DataBases 数据仓库使用示例和配置方法

每当创建 Web 项目或任何类型的项目时,都希望最终用户或消费者提供某种输入。所有这些数据/输入都由数据库处理。现今的场景中每当开发网站时都需要一个数据库,无论是博客网站还是基于 Django 的 Instagram 等高度交互的网站。为了实现这一点,需要一些可以有效存储数据的软件以及一些可以与数据库通信的中间件。不想 Django 中使用默认的 SQLite3 数据库的话(反正我觉得非常不好用)可以进行改写,而且在实际生产环境,Django是不可能使用SQLite这种轻量级的基于文件的数据库作为生产数据库

Mr数据杨 3万+

数仓建模(维度建模)

本文主要介绍什么是建模?模型的好处?建模的方法和维度建模。从基本概念、维度、事实、为何分层和建模步骤等角度详细介绍维度建模。

aijiudu的博客 8671

数仓建模—指标体系指标拆解和选取

建设指标体系,需要回答以下几个问题为什么建设数据指标体系如何评价数据指标体系,一个好的数据指标体系是要需要回答两个问题,它是不是有助于业务发展,以及说这个指标体系拆解是不是可具备、可落地、可实操的可能性。如何建设数据指标体系,这就需要我们的建设方法论了如何维护和管理指标,指标的维护和管理是有套路的,最简单的指标管理方法——指标字典,我们在此基础上可以做指标管理系统指标分类我们可以将其理解为纵向分类,指标分级我们可以理解为横向分类。

5万+

Cadence Virtuoso Layout 版图绘制

画好原理图,打好pin脚(pin最好以全大写的形式书写,以防后续操作中可能出现Bug) 查看所使用工艺库的design rule文件,确定栅格单位设置大小 在准备绘制的原理图界面启动layout XL/GXL 在layout界面按e,设置网格大小与design rule匹配 直接根据原理图生成版图 根据原理图连接关系显示版图中未连接的飞线 查看和更改原理图与版图中器件对应的链接关系 shift + f:显示器件版图细节 版图的构成:元器件(工艺厂商提供)、器件连接、阱连接、IO和PAD模拟电路

bobo_supper的博客 2万+

数据建模分析与数仓维度建模规范

数据建模是将定义现实世界的数据抽象成模型的过程,以便更好的分析,管理和操作数据实现需求。数据建模在数仓管理、数据库设计、算法模型训练等领域都有着重要的作用。在不同的领域,数据建模的关注点不同:在数据库设计领域,定义数据模型,用于有效地存储和管理数据,确保数据的一致性、完整性和可维护性等;在算法领域,抽象事物特征构建数据模型,用于跑算法模型,实现线性回归预测、自动决策、神经网络训练等;在大数据领域,用于为组织提供一个集成、一致、可靠的数据存储和分析平台,以支持业务决策、数据分析和报告等。

weixin_42049123的博客 3132

高精度之Hanoi双塔问题

Description给定A、B、C三根足够长的细柱,在A柱上放有2n个中间有孔的圆盘,共有n个不同的尺寸,每个尺寸都有两个相同的圆盘,注意这两个圆盘是不加区分的。现要将这些圆盘移到C柱上,在移动过程中可放在B柱上暂存。要求:(1)每次只能移动一个圆盘; (2)A、B、C三根细柱上的圆盘都要保持上小下大的顺序; 任务:设An为2n个圆盘完成上述任务所需的最少移动次数,对于输入的n,输出An。 Inp

wood 1990

Hive之数仓的分层及建模理论

数据仓库的用途 整合公司所有业务数据,建立统一的数据中心 产生业务报表,用于作出决策 为网站运营提供运营上的数据支持 可以作为各个业务的数据源,形成业务数据互相反馈的良性循环 分析用户行为数据,通过数据挖掘来降低投入成本,提高投入效果 开发数据产品,直接或间接地为公司盈利 数仓运行简图 数据集市与数仓的区别 数据集市(Data Market):是一种微型的数据仓库,它通常有更少的数据,更少的主题区域,以及更少的历史数据,因此是部门级的,一般只能为某个局部范围内的管理人员服务。 数据仓库

qq_56870570的博客 1万+

Windows音效增强设置详解:从系统开关到专业EQ调音

声音信号在Windows系统中需要经过混音器、声卡驱动与APO效果器等多层处理链路,最终才到达耳机或音箱。系统自带的响度均衡、低音增强、虚拟环绕等音频增强选项,本质上是对动态范围和频响的干预,理解其原理才能避免盲目开启导致声音发闷或失真。空间音效与采样率的正确配置,可减少SRC重采样带来的音质损失,而Win11的音频增强开关和通信设置也常被忽视。无论是板载声卡还是USB解码耳放,合理利用系统增强和Equalizer APO等工具,都能显著改善听感体验。本文结合场景给出设置建议,帮助用户告别声音浑浊,获得干净

weixin_31155097的博客 410

从零到一:基于DESeq2的转录组差异表达分析实战指南

本文详细介绍了基于DESeq2的转录组差异表达分析实战指南,涵盖数据准备、标准化处理、差异分析及结果解读等关键步骤。DESeq2凭借其稳定性和对低表达基因的友好处理,成为转录组数据分析的首选工具。文章还提供了常见问题排查和优化建议,帮助研究者高效完成从分析到发表的完整流程。

weixin_26759093的博客 274

数仓建模基础知识

这些原始数据通过一个叫做 ETL (提取、转换、加载) 的过程,被定期(如每天夜里)从OLTP系统中抽取出来,经过清洗、转换、整合后,加载到OLAP系统中(如数据仓库)。这样做的目的是为了将面向事务的处理和面向分析的处理分离开,避免复杂的分析查询影响核心业务的性能。示例:pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。”,负责使用数据产生价值。它们是企业数据价值链上不同但至关重要的两个环节。,是企业日常运营中产生的原始数据的“诞生地”。,基于业务数据提供决策支持。

qq_43349542的博客 1068

Android 14.0 首次开机默认授予app运行时权限(去掉运行时授权弹窗)

在14.0的系统rom产品定制化开发中,在6.0以后对于权限的申请,都需要动态申请,所以会在系统首次启动后,在app的首次运行时, 会弹出授权窗口,会让用户手动授予app运行时权限,在由于系统产品开发需要要求默认授予app运行时权限,不需要用户默认授予运行时弹窗,所以需要在首次开机默认授予所有app运行时权限

安卓兼职framework和app工程师的博客 2531

数仓-指标-建模方法论

数仓建模方法论

docsz的博客 1103

基于Simulink的无线充电系统LCC补偿网络建模与控制

本文详细介绍了基于Simulink的无线充电系统LCC补偿网络建模与控制方法。首先分析了LCC补偿网络的恒流输出、软开关实现和抗偏移能力等优势,并对比了不同补偿拓扑特性。随后分步骤讲解了Simulink建模流程,包括LCC主电路构建、关键参数设计、双闭环控制系统实现等核心环节。重点阐述了移相控制策略和软开关验证方法,提供了系统效率计算和抗偏移测试的调试技巧。最后展示了仿真结果,在耦合系数变化20%时,闭环系统仍能保持输出电压稳定在±2%波动范围内。文章还探讨了工程扩展方向,并针对常见问题给出了解决方案,为无

xiaoheshang_123的博客 540

Python 爬虫实战:解析 JSON 数据爬取今日头条热点新闻(API 接口逆向与字段提取)

在当今信息爆炸的时代,新闻资讯的获取变得尤为重要。今日头条作为国内领先的新闻聚合平台,其热点新闻数据具有很高的价值。本文将详细介绍如何通过 Python 爬虫技术,逆向解析今日头条的 API 接口,提取并解析 JSON 数据,最终获取热点新闻信息。

yansideyucsdn的博客 3211

数仓建模—指标体系

数仓建模—指标体系指标体系指标建设过程中遇到的问题指标建设方法论北极星指标人货场指标体系OSM+UJM 模型OSM+ AARRR海盗模型指标分级方法指标的构成指标分类简单计数型指标复合型指标基础指标衍生指标指标分级公司战略层面指标业务策略层面指标业务执行层面指标如何设立指标体系为什么要建立数据指标体系如何建立指标体系 OSM 模型知乎的例子滴滴的例子提高GMV(Gross Merchandise Volume)非标住宿指标衡量的是什么如何有效衡量“什么”如何衡量指标的好坏明确业务目的 确定核心指标工具类业务

weixin_42526326的博客 3128

D19: OpenClaw 安全性配置指南

在 OpenClaw 的 30 天探索旅程中,我们已经探讨了邮件自动化(D18)。今天进入安全专题,我将分享一个至关重要的话题:OpenClaw 安全性配置指南。 随着 OpenClaw 深入工作流核心,它掌握了越来越多的敏感信息: API Keys(GitHub、飞书、Notion、Jira...) 企业数据(代码库、文档、聊天记录) 个人数据(日历、邮件、任务) 系统权限(文件读写、命令执行、网络访问) 安全不是可选项,而是必选项。一次配置失误可能导致: API Key 泄露 → 账号被盗用权限

刘一说的IT专栏 203

数仓维度建模实例

简介 本文将介绍维度建模理论,基于自己经验的实施步骤 数据模型就是数据组织和存储方法,它强调从业务、数据存取和使用角度合理存储数据.... 只有数据模型将数据有序的组织和存储起来之后,大数据才能得到高性能、低成本、高效率、高质量的使用。 一般业务系统报表开发模式是java写sql从业务库算出结果数据,这样是可以快速出来结果,但有几个问题: 1)对业务库的影响 2)扩展性,比如页面又想加表的量程查询维度 3)当数据需求越来越多时,怎么维护 这时就需要数据仓库来对接源系统,计算结果数据给到应用。 数仓

BI_Worker的博客 6038

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

数仓建设流程

数仓建设流程一、数仓概览二、流程详解1.梳理业务流程2.垂直切分,划分主题域3.梳理指标体系4.表实体关系调研5.维度梳理4.数仓分层7.物理模型建立三、tipis 注:本文转至 如何搭建一个数据仓库,仅用于个人学习,侵权删。 一、数仓概览 整体建设 建设过程 数仓建模的过程分为业务建模、领域建模、逻辑建模和物理建模,但是这 些步骤比较抽象。为了便于落地,我根据自己的经验,总结出上面的七个步骤:梳理业务流程、垂直切分(划分主题域)、指标体系梳理、表实体关系调研、维度梳理、数仓分层以及物理模型建立。每

lightupworld的博客 1万+

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

上一篇: 数据分析思维导图
下一篇: Python处理千万级csv大文件:使用多线程加快处理速度
rubyw
博客等级 码龄7年 1528粉丝 234原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

rubyw

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值