摘录:数据治理【仅作了解】

如何最好的实现数据治理?数据治理的有效手段介绍 结合DAMA对数据管理职能的分类及内容,可将数据准备分为“管”“存”“算”个层面,将数据治理分为“规”、“治”两个层面,“ 管、存、算、规、治 ”五步实现对数据的有效治理。 阅读详情

摘录:数据治理【仅作了解】

基本概念

什么是数据治理?

答:又叫”数据管控”。引用《DAMA 数据管理知识体系指南》一书给出的定义:数据治理是对数据资产管理行使权力和控制的活动集合(规划、监控和执行)。数据治理职能指导其他数据管理职能如何执行。

数据元:通过名称、格式、长度、定义值域等一系列属性描述的数据单元。

代码集:数据元的取值范围。

数据元类目:按照标准规范对数据元进行分类。

元数据:对数据资源的描述性信息(数据的数据)。例如数据表的字段就是描述这些数据表中数据的元数据。

元模型:定义各种元数据的结构以及元数据间的关系。

概述

元数据(Metadata) 使得用户可以掌握数据的历史情况,如数据从哪里来?流通时间有多长?更新频率是多大?数据元素的含义是什么?对它已经进行了哪些计算、转换和筛选等等。在需求不确定情况下,在瞬间万变的商业环境下,元数据可以更好的支持需求的变化,降低项目风险。

元数据按照适用场景可有以下两种区分:

  • 技术元数据—-从开发的角度描述的元数据,应用于开发、管理和维护数据治理平台。
  • 业务元数据—-从业务的角度描述的元数据,提供良好的语义层定义,更便于业务人员理解。

元数据贯彻于建立数据仓库的全过程,不仅仅只是TL过程。

元数据标准 不统一,各厂商、各软件采用不同的元数据标准。业界需要统一的标准,以便各个软件系统之间可以相互交换元数据。CWG 1.0 (Common Warehouse Metamodel Version 1.0) 就是一种,其定义一个描述数据源、数据目的、转换、分析的元数据框架,以及定义建立和管理数据仓库的过程和操作,提供使用信息的继承。目前宣布支持CWM的厂商包括:IBM、Oracle、Hyperion、Dimension EDI、Genesis IONA、HP、NCR和Unisys等。

CWM基于3个工业标准:

  • UML - Unified Modeling Language,OMG建模标准;
  • MOF - Meta Object Facility,OMG建立元模型和模型库的标准,提供在异构环境下的数据交换的接口;
  • XMI - XML Metadata Interchange,OMG元数据交换标准。

数据分类

对每类数据进行治理时,关注点、方法以及效果都不同,需要区别对待。

数据分类描述
主数据(Master Data)关于业务实体的数据
事务数据(Transactional Data)业务运营过程中的内部或者外部事件或者交易记录
参考数据(Reference Data)用于将其他数据进行分类或者目录整编的数据
元数据(Metadata)描述数据的数据
统计分析数据(Analytical Data)指对企业业务活动进行统计分析的数据

主数据 关注的是”人”和”物”,主数据管理是数据治理领域一个专门的话题,其主要目的是对关键业务实体(如员工、客户、产品、供应商等)建立统一视图,让客观世界里本是同一个人或物,在数据世界里也能做到唯一识别,而不是在不同系统、不同业务中成为不同的人或物。

事务数据 关注的是”事”,事务数据没有形成单独的数据治理领域,由于事务数据是BI分析的基础,因此往往在数据质量管理中重点关注。

参考数据 是更细粒度的数据,是对”人”“事”“物”的某些属性进行规范性描述的,对参考数据的管理一般会与主数据管理同时进行,或与BI数据质量管理同时进行,因为指标维度和维值直接影响到BI数据质量。

元数据 是一个包罗万象的概念,其本质是为数据提供描述,所以任何数据都有元数据。数据治理领域的元数据,更多是指BI、数据仓库这个范畴内的元数据(国际上有Common Warehouse Meta-model规范),此外还有信息资源管理的元数据(如Dublin core协议)、地理信息元数据、气象元数据等等。正因为如此广泛,也造成了从业者对其有极高的预期以及实践后的极大失落。

现在极少谈”元数据”,而是谈”数据定义”,谈数据必谈定义,但却又不将其作为专门一类数据来管理,在数据治理领域单独做元数据管理,收效甚微。 主要原因有两点:

  1. 数据生产与数据管理脱节,元数据管理更多是在数据生产的事后进行元数据收集和应用展现,对数据生产起到的管控作用极小;
  2. 工具自身问题:虽然很多工具都号称支持CWM规范,但元数据自动获取始终是技术难题,而且对于存储过程、自定义脚本很难自动解析和获取,就无法准确、完整展现细节的数据处理过程。

统计分析数据 ,目前BI系统建设的主要作用就是做各种指标和报表的计算和展示。统计分析数据往往是数据治理的重点,统计分析数据的数据流分析、统计分析数据的数值的波动性、平衡性监控,几乎是各个企业做数据治理的必备应用。

斯坦福大学发布最新AI形势报告(2024)第三章:Responsible AI 人工智能越来越多地融入我们生活的方方面面。这种整合正在教育、金融和医疗保健等领域发生,这些领域的关键决策往往基于算法洞察。这一趋势有望带来许多好处,但也带来了潜在的风险。因此,在过去的一年里,人们一直非常关注人工智能系统的负责任开发和部署。人工智能社区也越来越关注评估人工智能系统的影响,并减轻受影响者的风险。本章通过检查四个关键的负责任人工智能领域的指标,研究和基准来探索负责任人工智能的主要趋势:隐私和数据治理,透明度和可解释性,安全性和安全性以及公平性。 阅读详情

相关推荐

数据仓库学习笔记 --- 数据仓库入门知识(业务数据矩阵、数据集市与主体域名、数据治理、数据中台、实时数仓、传统与互联网对比)

一、主题域划分规则(业务数据矩阵) 下图是以某电商业务为背景做的划分 主题 通用行为主题 曝光 点击 下载 安装 注册 登陆 业务行为主题 订单 阅读 ...

杨鑫newlife的专栏 1301

浅谈数据治理

数据治理是成功的企业数据管理中不可或缺的重要组成部分,并且不是一个一蹴而就的过程,数据治理工作只要开始了,就不会停下来。并且数据治理的前期工作是需要投入大量时间和人力的,做好充分的调研,搭组织架构,建立标准等等。以上只是针对数据治理的理论知识做了简要介绍,并且各企业由于实际情况的不同,开展数据治理工作也是不一样的,不可能完全照搬别人的方法,需结合企业自身现状,对症下药,解决数据问题。

nishuonimane的博客 2320

Common Warehouse Metamodel(CWM)Specification

CWM规范,OMG组织

数据治理与数据编织

数据治理是对数据管理的管理,它是基于内部数据标准、策略和规则,管理企业数据的可用性、完整性和安全性,从而将数据转化为企业资产。数据治理涵盖了数据管理的各种主题,例如:数据战略、数据架构、数据建模、数据存储和操作、数据安全、数据质量、元数据、数据集成和互操作性、文档和内容、参考数据和主数据、数据仓库和商业智能等。 在传统的数据治理体系中是没有包含数据编织的,但Data Fabric是一种数据管理的全新架构,数据编织将是自动化、智能化数据治理的一个理想解决方案,从数据架构层面增强了企业数据管理的能力。 ...

caoyongsheng的博客 1148

从零搭建宝兰德BES单机版:分离式安装、环境变量配置到控制台访问的避坑指南

本文详细介绍了从零搭建宝兰德BES单机版的完整流程,包括分离式安装、环境变量配置和控制台访问的避坑指南。针对中间件安装部署中的常见问题,提供了账号规划、JDK配置、实例创建和防火墙设置等实用解决方案,帮助开发者和运维人员高效完成BES中间件的部署工作。

weixin_32576389的博客 372

2006NOIP普及组真题 4. 数列

从上述推理中,我们发现要输出的幂次和中的第 N 项(也就是幂次和中的序号N),对应的二进制位数和幂次和对应的二进制位数相同。当 k=3 时,k的幂次为1, 3, 9, 27, 81…,即第0位,第2位均为1,转成 k 进制(k=3)时。,即第2位,第3位均为1,转成 k 进制(k=3)时。转成 k 进制(k=3)时的幂次和为。,即第0位,第1位,第2位均为1,(即第0位,第1位,第2位均为1)N=12时,12的二进制是。(即第0位,第2位均为1)(即第2位,第3位均为1)结论:这道题就变成了。

weixin_40252159的博客 1514

数据管理 数据治理 数据管控的概念区别和范围是什么?_光点科技

广义的数据治理是对数据资产管理行使权力和控制的活动集合(规划、监控和执行),指导其他数据管理职能如何执行,在高层次上执行数据管理制度。组织为实现数据资产价值最大化所开展的一系列持续工作过程,明确数据相关方的责权、协调数据相关方达成数据利益一致、促进数据相关方采取联合数据行动。

gdkj20110411的博客 1010

竞拍算法(Auction Algorithm)原理及工作过程分析

因一些项目工作需要对竞拍算法进行深入了解。但百度了大部分资料都未找到一篇文章能对此算法进行较为深入的介绍。在一番努力之下,终于找打了最初提出该算法的论文,本文内容主要结合该论文对竞拍算法进行分析。 竞拍算法简介 竞拍算法(Auction Algorithm)是一种用于解决分配问题的分布式算法,经相关文献查询,最早由麻省理工学院信息和决策系统实验室的Bertsekas(教授?)提出 1,于1988年发表于期刊Annals of Operations Research。 顾名思义,竞拍算法本质就是模拟人类拍.

weixin_47546390的博客 3万+

万字好文!数据治理体系与能力提升

这篇是蔡春久先生直播的文字摘录,这场直播获得了满堂喝彩,讲的非常好,整篇文章大概10000字。来源:蔡春久-《帆软·决胜数字化转型》直播文章整理:grace蔡春久:中国数据工匠俱乐部发起人...

大数据星球-浪尖 2229

FastAPI + LLM 实战:5分钟搞定本地模型API服务部署(含避坑指南)

本文详细介绍了如何使用FastAPI和LLM(大语言模型)快速部署本地API服务,涵盖环境准备、模型集成、性能优化及避坑指南。通过实战示例,帮助开发者在5分钟内完成从零到生产的部署过程,提升AI应用开发效率。

weixin_29062963的博客 102

Unity插件——WebView内嵌网页/浏览器插件

一、相关插件: 1、Embedded Browser 插件(文件夹名ZFBrowserUnity) 2、UniWebView插件 3、UnityAndroidWebviewToTexture插件 4、3D WebView for Android插件 二、遇到的问题: 3D WebView显示问题 项目中使用3D WebView存在的问题 三、插件使用 Embedded Browser 加载页面的使用

青岚岁叶的博客 1万+

一本书读懂数据治理

企业数据治理非常必要,它是企业实现数字化转型的基础,是企业的一个顶层策略,一个管理体系,也是一个技术体系,涵盖战略、组织、文化、方法、制度、流程、技术和工具等多个层面的内容。数据治理不是对“数据”的治理,而是对“数据资产”的治理。数据治理可以有效盘活企业的数据资产。

空城的博客 631

【阿里AgentScope框架】多框架组合:AgentScope加LangChain,让你的开发效率直线上升

本文以一个例子来看下AgentScope框架和LangChain如何实现融合使用,真的超级简单,一看就懂。这是一种思路,为多种框架的融合使用提供借鉴。

同学小张的博客 3471

释放数据价值,从“治理”谈起,《网易数据治理白皮书》重磅发布!

‍‍数据智能产业创新服务媒体——聚焦数智· 改变商业在数字经济发展的浪潮下,无论是企业的管理者,还是企业的一线员工无时无刻不在和数据打交道,如何用好数据、挖掘更多数据价值是每个企业都将或正在面临的挑战。要想数据充当好数字经济关键的基础性要素,就需要提升数据从潜在价值向实际业务价值的有效转化。而在这一关键的转化过程中,只有通过数据治理,打通企业内部不同层级、不同系统之间的数据壁垒,数据质量才能全面...

数据猿 289

YOLO 线性小目标涨点|3890 张输电导线散股 VOC+YOLO 单类别数据集实战,无人机电力缺陷巡检全流程落地

架空输电导线是电网能量传输核心载体,长期受风力摆动、雷击、腐蚀、外力撞击作用,外层铝股极易出现断裂散股故障。导线散股初期仅少量铝丝开裂,肉眼与无人机远距离航拍下属于细长微弱线性小目标;若未及时发现,散股会持续扩张,引发导线过热、断线、大面积停电重大电力安全事故。传统人工巡检存在多重行业痛点:山区、跨江河线路人员无法攀爬登杆,高空作业人身坠落风险极高;无人机单次航拍产出数千张高清图片,人工逐帧筛查微小散股耗时 3-5 天,阴天、逆光、植被遮挡场景漏检率超 45;

lin_xiu的博客 52

光伏硅片瑕疵检测边缘计算方案:Java+YOLOv11n+GraalVM Native Image+树莓派5部署,工业级高可靠落地

本文提出了一种基于边缘计算的光伏硅片瑕疵检测方案,针对传统人工检测和云端AI方案的不足,采用Java+YOLOv11n+树莓派5的技术路线,实现了低延迟、高可靠的工业级检测。方案核心特点包括: 分层解耦的边缘架构,将感知、推理全链路下沉到树莓派5,端到端延迟<100ms; 创新性技术选型组合:Java 17+ONNX Runtime+GraalVM Native Image,内存占用<200MB; 安防级可靠性设计,支持断网缓存、看门狗守护、异常自动恢复等工业场景需求; 完全基于开源技术栈,硬件

2601_94871597的博客 474

极客星球丨 字节跳动一站式数据治理解决方案及平台架构

本期【极客星球】带来MobTech主办的【CoderPark】第二季数智有直播活动中,字节跳动数据治理平台研发负责人王慧祥老师分享的一站式数据治理技术干货

apkkkk的博客 948

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

《网易数据治理白皮书》发布 国研政情谋定论道经济信息研究

《网易数据治理白皮书》发布 国研政情谋定论道经济信息研究

赢在商道·中国营销企划 363

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

数据治理:元数据及元数据管理策略、方法和技术

数字化时代,企业需要知道它们拥有什么数据,数据在哪里、由谁负责,数据中的值意味着什么,数据的生命周期是什么,哪些数据安全性和隐私性需要保护,以及谁使用了数据,用于什么业务目的,数据的质量怎么样,等等。这些问题都需要通过元数据管理解决,缺乏有效的元数据管理,企业的数据资产可能会变成拖累企业利润的“包袱”。数据已经成为增强企业竞争力的核心要素,有效地管理和使用数据成为企业的刚需。越来越多的企业使用元数据管理工具来管理云计算、物联网、数据湖中所产生的数据,以便更容易地理解、更快地查找和更有效地管理企业数据,实现数

ths512的博客 3994

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

AI 编程与研发效能论坛 笔记摘录

1024程序员节 AI编程与研发效能论坛 笔记摘录

恭仔的博客 9489

华为数据之道(4):华为是如何构建数据综合治理体系的?

注:微信公众号不按照时间排序,请关注“亨利笔记”,并加星标以置顶,以免错过更新。新书消息:秋天里的第一本云原生巨著:《Harbor权威指南》华为的数字化转型已经成为行业公认的标杆,最近的...

亨利笔记 2548

数据治理:数据开放与共享的现状与未来

数据治理的核心之一是推动数据有序、安全地流动,以便最大程度地挖掘和释放数据价值。数据流动则需要推动数据的开放分享,实现数据的“聚”“通”“用”。近10年来,发达国家以政府数据开放共享为核心,普遍进行了卓成有效的数据开放分享实践,在企业数据开放分享方面也有“开放银行”等创新探索实践。我国虽然还处于数据开放分享的初期阶段,但因为数字中国、数字政府等数字战略的实施,以及数字技术在各个领域的持续创新应用,数据开放共享也已取得较好成果。数据的开放分享,核心在于“数据价值”的流通,“分布式数据价值分享”或将成为未来数据

cdfunlove的博客 2826

华为数据之道(3):面向业务的信息架构建设

注:微信公众号不按照时间排序,请关注“亨利笔记”,并加星标以置顶,以免错过更新。新书消息:秋天里的第一本云原生巨著:《Harbor权威指南》我们云原生实验室从事着联邦学习的 FATE /...

亨利笔记 3927

华为数据之道(5):华为数字化转型的目标、蓝图和愿景

《华为数据之道》对企业管理和使用数据做了系统的总结,其中有不少的原理值得借鉴。在征得出版社许可后,摘录部分章节分享给大家,本文为摘录的第5篇,感兴趣的读者可以点击图片购买图书作参考。业界都...

亨利笔记 8068

数据管理执行指南 | 你需要知道什么?

摘自《穿越数据的迷宫:数据管理执行指南》

志明与数据 2504
上一篇: 基于B-gram句子概率计算实现
下一篇: 摘录:数据质量管理【仅作了解】
Subson
博客等级 码龄12年 31粉丝 21原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值