文章目录
-
- 数据仓库的定义?
- 数据仓库和数据库的区别?
- 如何构建数据仓库?
- 什么是数据中台?
- 数据中台、数据仓库、大数据平台的关键区别是什么?
- 大数据的一些相关系统?
- 如何建设数据中台?
- 数据湖的理解?
- 数仓最重要的是什么?
- 概念数据模型、逻辑数据模型、物理数据模型
- SCD的常用处理方式?
- 元数据的理解?
- 元数据管理系统?
- 印象最深刻的项目是什么?为什么?亮点与优势?
- 数仓如何确定主题域?
- 如何控制数据质量?
- 如何做数据治理?
- 模型设计的思路?业务驱动?数据驱动?
- 数据质量管理
- 什么是数据模型?
- 为什么需要数据仓库建模?
- OLAP和OLTP的模型方法的选择?
- 3范式?
- 数据仓库建模方法?
- 事实表的类型?
- 数仓架构为什么要分层?
- 数据分层思想?
- 数仓架构进化
- OLAP简介
- OLAP分类
- 开源OLAP解决方案
- OLAP引擎
- 参考
数据仓库的定义?
首先,用于支持决策,面向分析型数据处理;其次,对多个异构的数据源有效集成,集成后按照主题进行重组,并包含历史数据,而且存放在数据仓库中的数据一般不再修改。
数据仓库(Data Warehouse)是一个面向主题的(subject oriented)、集成的(integrated)、相对稳定的(non-volatile)、反应历史变化(time variant)的数据集合,用于支持管理决策(decision making support)。
数据仓库和数据库的区别?
从目标、用途、设计来说
- 数据库是面向事物处理的,数据是由日常的业务产生的,常更新;数据仓库是面向主题的,数据来源多样,经过一定的规则转换得到,用来分析。
- 数据库一般用来存储当前事务性数据,如交易数据;数据仓库一般存储的历史数据。
- 数据库的设计一般是符合三范式的,有最大的精确度和最小的冗余度,有利于数据的插入;数据仓库的设计一般不符合三范式,有利于查询
如何构建数据仓库?
数仓模型的选择是灵活的,不局限于某种模型方法。
数仓数据是灵活的,以实际需求场景为导向。
数仓设计要兼顾灵活性、可扩展性,要考虑技术可靠性和实现成本。
https://www.zhihu.com/question/19703294
-
系统分析,确定主题。通过与业务部门的交流,了解建立数仓要解决的问题,确认各个主题下的查询分析要求
-
选择满足数据仓库系统要求的软件平台。选择合适的软件平台,包括数据库、建模工具、分析工具等
-
建立数据仓库的逻辑模型。确定建立数据仓库逻辑模型的基本方法,基于主题视图,把主题视图中的数据定义转到逻辑数据模型中
-
逻辑数据模型转换为数据仓库数据模型
-
数据仓库数据模型优化。随着需求和数据量的变化进行调整
-
数据清洗转换和传输。业务系统中的数据加载到数据仓库之前,必须进行数据的清洗和转换,保证数据仓库中数据的一致性。
-
开发数据仓库的分析应用。满足业务部门对数据进行分析的需求。
-
数据仓库的管理。包括数据库管理和元数据管理。
什么是数据中台?
数据中台是指通过数据技术,对海量数据进行采集、计算、存储、加工,同时统一标准和口径。数据中台吧数据统一之后,会形成标准数据,再进行存储,形成大数据资产层,进而为客户提供高效服务。
这些服务和企业的业务有较强的关联性,是企业所独有且能复用的,它是企业业务和数据的积淀,其不仅能降低重复建设,减少烟囱式协作的成本,也是差异化竞争的优势所在。
数据中台通过整合公司开发工具、打通全域数据、让数据持续为业务赋能,实现数据平台化、数据服务化和数据价值化。数据中台更加侧重于“复用”与“业务”。
数据中台、数据仓库、大数据平台的关键区别是什么?
基础能力上的区别
数据平台:提供的是计算和存储能力
数据仓库:利用数据平台提供的计算和存储能力,在一套方法论指导下建设的一整套的数据表
数据中台:包含了数据平台和数据仓库的所有内容,将其打包,并且以更加整合以及更加产品化的方式对外提供服务和价值。
业务能力上的区别
数据平台:为业务提供数据主要方式是提供数据集
数据仓库:相对具体的功能概念是存储和管理一个或多个主题数据的集合,为业务提供服务的方式主要是分析报表
数据中台:企业级的逻辑概念,提现企业数据产生价值的能力,为业务提供服务的主要方式是数据API
总的来说,数据中台距离业务更近,数据复用能力更强,能为业务提供速度更快的服务。数据中台是在数据仓库和数据平台的基础上,将数据生产为一个个数据API服务,以更高效的方式提供给业务。数据中台可以建立在数据仓库和数据平台之上,是加速企业从数据到业务价值的过程的中间层。
大数据的一些相关系统?
数仓设计中心:按照主题域、业务过程,分层的设计方式,以维度建模作为基本理论依据,按照维度、度量设计模型,确保模型、字段有统一的命名规范
数据资产中心:梳理数据资产,基于数据血缘,数据的访问热度,做成本的治理
数据质量中心:通过丰富的稽查监控系统,对数据进行事后校验,确保问题数据第一时间被发现,避免下游的无效计算,分析数据的影响范围。
指标系统:管理指标的业务口径、计算逻辑和数据来源,通过流程化的方式,建立从指标需求、指标开发、指标发布的全套协作流程
数据地图:提供元数据的快速索引,数据字典、数据血缘、数据特征信息的查询,相当于元数据中心的门户。
如何建设数据中台?
http://baijiahao.baidu.com/s?id=1651988047250956280&wfr=spider&for=pc
数据中台在企业落地实践时,结合技术、产品、数据、服务、运营等方面,逐步开展相关工作。
- 理现状。了解业务现状、数据现状、IT现状、现有的组织架构
- 定架构。确认业务架构、技术架构、应用架构、组织架构
- 建资产。建立贴近数据层、统一数仓层、标签数据层、应用数据层
- 用数据。对数据进行输出、应用。
- 数据运营。持续运营、持续迭代
中台建设需要有全员共识,由管理层从上往下推进,由技术和业务人员去执行和落地是一个漫长的过程,在实施数据中台时,最困难的地方就是需要有人推动。
数据湖的理解?
数据湖是一个存储企业的各种各样原始数据的大型仓库,其中的数据可供存取、处理、分析及传输。
数仓最重要的是什么?
个人认为是数据集成。
企业的数据通常是存储在多个异构数据库中的,要进行分析,必须先要对数据进行一致性整合。
集成整合后才可以对数据进行分析、挖掘数据潜在的价值。
概念数据模型、逻辑数据模型、物理数据模型
概念数据模型设计与逻辑数据模型设计、物理数据模型设计是数据库及数据仓库模型设计的三个主要步骤。
概念数据模型CDM
conceptual data model
概念数据模型是最终用户对数据存储的看法,反映了最终用户综合性的信息需求,以数据类的方式描述企业级的数据需求。
概念数据模型的内容包括重要的实体与实体之间的关