数据仓库之各种表

数仓建模中的表格类型介绍 在ODS层中的表格,保留有Mysql中导入的原始字段和数据,属于关系模型,不存在维度模型中的表格类型。而在DWD层中,创建维度模型,需要有两种表格类型组成:维度表和事实表维度表维度表:一般是对事实的描述信息。每一张维表对应现实世界中的一个对象或者概念。例如:用户、商品、日期、地区等。维度表的特征:(相对于事实表而言)维表的范围很宽(具有多个属性、列比较多)跟事实表相比,行数相对较小:通常< 10万条内容相对固定:编码表事实表。 阅读详情

数据仓库之各种表

在数仓项目中最大的感觉就是各种表各种分类,有丢丢搞坨坨不清,本文目的就是梳理一下数据仓库的各种“表”。

在此之前需要弄清楚OLTP和OLAP的恩恩怨怨,以及为什么要从OLTP到OLAP呢?

OLTP(On-Line Transaction Processing),操作型处理,也叫联机事务处理,也可以称面向交易的处理系统,它是针对具体业务在数据库联机的日常操作,通常对少数记录进行查询、修改。

OLAP(On-Line Analytical Processing),分析型处理,叫联机分析处理,一般针对某些主题的历史数据进行分析,支持管理决策。简单来说数据库和数据仓库的区别某种程度和意义上就是等同于OLTP和OLAP的区别。

也就是说如果OLTP它储存的是最新的数据,而数据仓库或者说OLAP它是基于历史数据进行分析的,因为不要忘了我们是分析过去的数据呀~~

那么为什么就是说要从OLTP到OLAP呢?

首先对于前期数据需求较少,不需要你去提供各种指标给各个业务部门,当时通常的做法就是说写脚本,从命令行输入参数,连接数据库,将需要的原始数据提取出来,在内存中计算数据,然后将结果写入一个专门存放统计结果的DB,最后再写一个PHP页面作为报表提供给需求方,那么后面就会出问题的说,你前面偷的懒后面是要还的!所以说随着需求的增加和精细化,问题变得棘手,而且还严重影响的开发效率,基于美团数据仓库搭建过程中的各种困难场景举例说明:比如说在这过程中有很多重复劳动和代码,比如连接数据库的代码,每个人都要写,各种写法不同,分布在很多地方,如果哪个DB的连接方法变更了,需要更改很多地方。中间数据缺失,中间计算结果不能共享。不同的人写报表,每人都可能要重算一次。很难管理和维护,程序语言五花八门,同一指标可以写多种统计方法,各种语言各种执行方式,缺少文档,其他人很难接手维护。数据的清洗和转换没有统一方法,比如,哪天是每月第一天或每周第几天这种需求,靠手工调用各种时间函数来计算,非常容易出错。不同数据源的数据很难综合使用, 比如一个数据需要使用主站的数据和合同系统的数据, 要把这些数据组织在一起就很麻烦。所以我们就需要OLAP。

那就是基于OLAP,才引出了后面一大堆表!

实体表

实体表,一般是指一个现实存在的业务对象,比如用户,商品,商家,销售员等等。大家可以自行想象假如你是老板,你会怎么登记你顾客的信息,那么这个顾客的信息,就是对应实体表里面的一条数据。。。

维度表

维度表,一般是指对应一些业务状态,编号的解释表。也是对事实的描述信息,也就是这件事到底是啥样。也可以称之为码表。每一张维表对应现实世界中的一个对象或者概念。

比如地区表,订单状态,支付方式,审批状态,商品分类等等。

维度表的特征:

维表的范围很宽(具有多个属性、列比较多),因为你想就光一只猫我们可以分为胖猫瘦猫,黑猫白猫,高猫矮猫,那更

LabVIEW2020数据库建表实战:从SQL基础到Database Toolkit应用 数据库作为结构化数据存储与管理的核心技术,通过SQL语言实现对数据的定义、操作与控制。其原理基于关系模型,利用表、字段、约束等元素组织数据,确保数据完整性。在工业测控与自动化领域,高效的数据管理是系统稳定运行的基础,尤其适用于海量传感器数据、测试结果等场景。本文聚焦LabVIEW2020环境,详解如何通过Database Toolkit图形化编程实现数据库建表,涵盖ADO.NET连接、字段类型选择、主键设置等关键操作,并针对LabVIEW开发者常见的数据存储需求,提供从SQL语句拼接到错误处理的完整工程实践 阅读详情

相关推荐

【数仓设计】(一):数仓拉链表的使用和设计

全文由下面几个部分组成: 第一部分:先分享一下什么是拉链表,以及拉链表的应用场景; 第二部分:通过两个使用案例来对拉链表做近一步的阐释 第三部分:举一个具体的应用场景,来设计并实现一份拉链表,最后并通过一些例子说明如何使用我们设计的这张表 (因为现在Hive的大规模使用,我们会以Hive场景下的设计为例)。 最后:分析一下拉链表的优缺点,并进行补充说明,比如说拉链表和流水表的区别。 一、拉链表的定...

清平乐的技术专栏 2144

【最佳实践】数仓中的表类型

维度建模中表的类型 在维度建模中,表类型分为事实表、维度表,而事实表又可以细分为事务事实表、周期快照事实表、累积快照事实表。 事实表 事实表存储的数据一般是指一个现实存在的业务对象,比如用户,商品,商家,销售员等等,属于查询结果中的核心数据。 维度表 维度表一般是指对应一些业务状态,代码的解释表。也可以称之为码表。在查询过程中,对数据起到筛选、组织作用。通常使用维度对事实表中的数据进行统计、聚合...

pengpengsays 926

用 DB15 看清 SAP 归档对象和数据库表之间的关系

SAP数据归档项目的核心挑战在于确定归档对象而非技术操作。归档对象(Archiving Object)是业务导向的,需要处理相关联的多张表而非单表。DB15工具是关键桥梁,可双向查询表与归档对象的映射关系,帮助判断标准归档方案是否适用。但需注意它存在局限,应与AOBJ、SARA等工具配合使用,避免仅凭DB15结果决策。标准归档对象已内置业务逻辑,应优先采用以减少定制化开发风险。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 2145

数据仓库与数据库表实现的.NET源代码详解

数据库表是一种数据结构,用于存储和组织数据。每个表由行(记录)和列(字段)组成,每个表通常代表一个特定实体的信息集合。在关系型数据库管理系统(RDBMS)中,表是最重要的对象之一,因为它们允许数据存储在一个逻辑结构中,使得数据检索、管理和维护变得可能。数据库表的主要作用包括:数据组织:表将数据分类存储,便于管理和检索。数据完整性:通过定义数据类型、约束、索引等来确保数据的准确性和一致性。数据操作:允许进行插入、更新、删除等操作。

weixin_42405592的博客 1128

两个独立的正态分布的和仍然为正态分布的证明

正态分布的和

weixin_40064300的博客 1万+

银河麒麟服务器操作系统V10 SP1:跨架构激活与设备更换无忧指南

本文详细解析了银河麒麟服务器操作系统V10 SP1的跨架构激活新特性。该特性彻底解除了授权与CPU架构的绑定,允许同一份授权在x86、ARM、龙芯等不同架构服务器间灵活使用。文章提供了从新设备激活到硬件更换后保持激活状态的全流程实战指南,并分享了内网环境部署等高级技巧,助力企业简化运维、提升硬件资源管理灵活性。

ff678的博客 352

深入解析安卓性能分析工具systrace/atrace的使用技巧与实战场景

本文深入解析了安卓性能分析工具systrace/atrace的核心使用技巧与实战场景。文章澄清了环境搭建的常见误区,详细拆解了命令参数,并通过列表卡顿、启动优化等具体案例,手把手指导开发者利用这些工具精准定位性能瓶颈,提升应用流畅度。

yyy34的博客 240

IEEE802.11bf: WLAN Sensing Standard

下表为IEEE802.11bf 定义的使用情境 (Use Cases)

qinsd19的博客 1056

VSCode 降低适用版本并且关闭自动更新

官方表示,提高了远程服务器构建工具链的最低要求,更新了对 glibc 的要求,需要最低2.28版本。最快的方法是把vs code的版本降到1.85(为什么是这个版本呢?打开VS Code的官方网站(https://code.visualstudio.com/)通过查看可以知道,具体的版本没有直接显示分类,他是根据发布日期来分类的同时和版本匹配。在网站的顶部导航栏中找到”Updates”按钮,点击进入下载页面。找了半天一直没发现,原来就在紧挨着的下面。远程主机不满足运行vs code服务器的先决条件。

Sunflower的博客 9582

麒麟OS(Kylin OS)操作系统minikube+docker安装使用及遇到的问题

一 ,安装minikube及操作工具kubectl 1,安装kubectl 使用以下命令下载最新版本: curl -LO "https://dl.k8s.io/release/$(curl -L -s https://dl.k8s.io/release/stable.txt)/bin/linux/amd64/kubectl" 要下载指定版本(例如v1.22.0版本) ,请键入: curl -LO https://dl.k8s.io/release/v1.22.0/bin/linux/amd..

qq_23396017的博客 2643

脑肿瘤MRI图像分割实战:基于U-Net的深度学习完整指南

脑肿瘤是中枢神经系统最常见的疾病之一,全球每年有超过30万人被诊断为原发性脑肿瘤。在临床诊断和治疗过程中,磁共振成像(MRI)已成为评估脑肿瘤的标准影像学检查方法。然而,手动分割MRI图像中的肿瘤区域是一项耗时且依赖于专家经验的工作,不同医生之间可能存在显著差异。

YOLO 151

自监督学习原理与代码实战案例讲解

自监督学习原理与代码实战案例讲解 作者:禅与计算机程序设计艺术 1. 背景介绍 1.1 自监督学习的起源与发展 1.1.1 监督学习的局限性

AI天才研究院 624

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

SimpleSWQ
博客等级 码龄8年 7粉丝 1原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值