数据治理(二):数据治理功能方面

数据治理(Data Governance) 数据治理(Data Governance) 简单来讲,数据治理就是要约束输入,规范输出。 根据DAMA(国际数据管理协会)的定义,数据治理(Data Governance)是指对数据资产的管理活动行使权力和控制的活动集合(规划、监控和执行)。数据治理是识别、管理和解决几种不同类型数据相关问题的手段,包括数据质量问题、数据命名和定义冲突、数据安全等问题。 数据治理体现在那些方面? 数据治理,由元数据、数据标准、数据质量、数据集成、主数据、数据资产、数据交换、生命周期、数据安全等组成。 阅读详情

​数据治理功能方面

        数据规模大并且成熟企业中数据治理通常包含以下几个功能方面: 数据治理包括主数据管理、元数据管理、数据标准管理、数据质量管理、数据集成管理、数据资产管理、数据安全管理、数据交换管理、数据生命周期管理方面。

一、主数据管理

        主数据(Master Data)就是关于业务实体的数据。主数据是关键业务实体的最权威、最准确、价值最大的数据,用于建立交易闭环。例如对于银行来说,用户账号、贷款账号信息、理财产品等就是主数据;对于电商网站,用户、商品就是主数据等。主数据管理包括主数据申请、主数据发布、主数据分发等。

二、元数据管理

        元数据(Meta-data)是描述数据的数据。例如一个文本数据的大小,位置,创建人,创建日期等,这些数据就是该文本文件的元数据。元数据又分为业务元数据、技术元数据、操作元数据、管理元数据。

  • 业务元数据:与业务规则、流程相关的描述性数据。例如:人员信息数据中的统计时间、统计周期、统计区域范围等。

  • 技术元数据:与存储、访问等技术底层相关描述性数据。例如:人员信息数据存储在的位置、访问的 URL 地址,数据存储库,对应的表名,字段有哪些等。

  • 操作元数据:与数据操作相关的描述性数据。例如:人员信息数据上传人,上传时间,修改时间等。

  • 管理元数据:与数据管理相关的描述性数据。例如:人员信息数据访问权限,安全等级,质量等级,过期时间等。

        元数据就是为了准确的描述我们拥有的所有数据。其核心的目的是降低人与数据之间的沟通成本。描述的越准确,我们使用数据的成本就越低。元数据管理主要包括元数据采集、血缘分析、影响分析等。

三、数据标准管理

        数据标准(Data Standards)是进行数据标准化的主要依据,构建一套完整的数据标准体系是开展数据标准管理工作的良好基础,有利于打通数据底层的互通性,提升数据的可用性。用通俗的话讲数据标准就是在组织内定义一套关于数据的规范,好让我们都能理解这些数据的含义。例如:对于银行系统中的客户,核心系统人员认为在银行开户存钱的人就是客户,信贷系统人员认为在银行中贷款的人就是客户,理财系统的人认为理财的人就是客户等。

        以上如果没有统一标准的话,不仅增加沟通成本,而且项目实施、交付、信息共享、数据集成、协同工作往往会出现各种问题,而数据标准管理就是将这一套数据标准,通过各种管理活动,推动数据进行标准化的一个过程,是数据标准落地必不可少的过程。数据标准管理包括标准定义、标准查询、标准发布。

四、数据质量管理

        数据质量就是确保组织拥有的数据完整且准确,只有完整、准确的数据才可以供企业分析、共享使用,随着公司数据的来源、形式越来越多,数据质量的战略价值也急剧上升。例如:检查某业务数据唯一性、完整性、数据流程转换过程一致性、数据真实性等。数据质量管理包括质量规则定义、质量检查、质量报告等。

五、数据集成管理

        数据集成是把不同来源、格式、特点性质的数据在逻辑上或物理上有机的集中,从而为企业提供全面的数据共享,企业实现数据共享可以使用更过的人更充分地使用已有数据资源,减少资料收集、数据采集等重复劳动和相应费用, 在大数据中一般采用数据仓库进行数据集成管理。数据集成包括数据处理、数据加工、数据汇集等。

六、数据资产管理

        数据资产管理就是汇总、存储所有参与数据治理平台的各个系统的数据资产,确保数据资产的一致性和完整性,让管理者可以一目了然的了解到所有资产,提供决策依据,提升数据资产的价值。例如:数据仓库中存储的各类数据就是资产,如果不做数据资产管理来了数据之后就直接存储,用户查找响应数据就需要慢慢去查询,效率低下,如果对数据做了资产管理分类,就可以轻松获取对应类别全部数据及位置,结合数据生命周期管理还可清楚知道数据进入数仓时间,移出数仓时间等。

        数据资产管理的重要性随着企业的发展,企业拥有的数据资产只会越来越庞杂,通过数据资产管理对资产进行有序的管理、提升数据利用价值是必不可少的环节。数据资产处理不当,数据繁杂无序,那么这些数据将不再是资产,而是垃圾,随着系统更新换代,我们将会永远丢失这部分资产。数据资产管理包括数据资产编目、数据资产服务、数据资产审批

七、数据安全管理

        企业有些数据非常重要且敏感,这些数据大部分集中在应用系统中,例如银行系统中客户的联络信息、资产信息等,如果不慎泄露,不仅给客户带来损失,也会给银行带来不利的声誉影响,因此数据安全在数据管理和治理过程中是相当重要的。数据安全管理包括数据权限管理、数据脱敏、数据加密等。

八、​​​​​​​数据生命周期管理

        任何事物都具有一定的生命周期,数据也不例外。从数据的产生、加工、使用乃至消亡都应该有一个科学的管理办法,将极少或者不再使用的数据从系统中剥离出来,并通过核实的存储设备进行保留,不仅能够提高系统的运行效率,更好的服务客户,还能大幅度减少因为数据长期保存带来的储存成本。

        数据生命周期一般包含在线阶段、归档阶段(有时还会进一步划分为在线归档阶段和离线归档阶段,即离线数仓和实时数仓构建,将数据存入数仓)、销毁阶段三大阶段,数据生命周期管理内容包括建立合理的数据类别,针对不同类别的数据制定各个阶段的保留时间、存储介质、清理规则和方式、注意事项等。

九、​​​​​​​数据交换管理

        企业中随着时间和业务增长建立了众多的信息系统,但是随着信息系统的增加,各自孤立工作的信息系统将会造成大量的冗余数据和业务人员的重复劳动。例如数据仓库 DM 层分析人员信息中缺失数据,可以通过数据交换系统反哺到业务系统中,避免重复劳动。企业急需通过建立底层数据集成平台来联系横贯整个企业的异构系统、应用、数据源等,完成在企业内部的 ERP、CRM、SCM、数据库、数据仓库,以及其它重要的内部系统之间无缝的共享和交换数据,避免“数据孤岛”问题。

        以上几个方面相辅相成,每个公司根据每个公司的数据规模不同建设的数据治理方面不同,其中以上几个方面中数据治理基础方面有数据集成管理、数据质量管理,元数据管理,数据安全管理。前面课程中学习过的数据仓库项目构建数仓就相当于是一个数据集成管理过程,下面重点介绍数据质量管理,元数据管理,数据安全管理三方面。

        实施有效的数据治理可以确保企业数据符合重要的数据法规,数据标准化可以提高数据的透明度,降低使用数据的成本,提高运营效率,数据治理是所有数据应用的根基,数据治理的好坏直接影响数据应用的价值,通过数据治理可以给企业提供更直观、准确、安全的数据分析结果

十、数据治理思维导图

数据治理系列1:数据治理框架【解读分析】 作者:石秀峰,多年来一直从事企业数据资源规划、企业数据资产管理、数据治理,欢迎关注。 一、什么是数据治理? 维基百科:数据治理对于确保数据的准确、适度分享和保护是至关重要的。有效的数据治理计划会通过改进决策、缩减成本、降低风险和提高安全合规等方式,将价值回馈于业务,并最终体现为增加收入和利润。 笔者认为:所有为提高数据质量而展开的业务、技术和管理活动都属于数据治理范畴。... 阅读详情

相关推荐

数据治理管理平台功能模块与特性

  数据治理中的元数据就是数据的数据,讲究从数据的全生命周期:产生/采集、存储、加工和展现等环节进行描述与分析。元数据体现数据的各类关系和属性,可从技术、业务、管理3个维度对元数据进行划分,从而帮助用户对整个系统内数据资产的质量和分布形成清晰直观的认知,并有助于持续地进行数据质量的提升以及问题的跟踪回溯。   标准的数据治理元数据管理系统,应满足以下四大功能模块与特性:   元数据采集:能准确便捷地从各类数据库及大数据平台中采集全生命周期的各类元数据,包括各类数据实体机加工逻辑,并支持异构环境;   

中琛魔方大数据 8039

终于有人把数据治理讲明白了

是企业对数据资产管理行使权力和控制的活动集合(包括计划、监督和执行),它是管理企业数据资源的一种方式、方法,旨在确保数据的质量、安全、合规和有效性。数据治理是企业实现数据战略的基础,是一个管理体系,包括组织、制度、流程和工具。。数据的生命周期包含了源头、处理和消费这三个阶段,数据的问题也可能会出现在这三个环节中。例如在数据源头环节,用户录入数据的规范性存在问题,导致了最终数据消费环节的数据质量低。这些表象问题的根源,可能来自于业务系统用户交互设计,乃至是底层数据库表结构设计上的缺陷。

m0_59164520的博客 6202

【数据治理】数据治理8种方法

个人觉得这8种方法中监管驱动法和利益驱动法是最常见的,也是一直在治,但只能局部治理的方法,未来是数字时代,必须体系构建(顶层设计)+价值驱动(利益驱动法)+技术支撑(技术推动法)+如果再有监管强制治理...

菜鸟叔叔的博客 3万+

浅谈数据治理(什么是数据治理)

数据治理概念

shufangreal的博客 1万+

基于Canfestival的对象字典工具objdictedit.py的运行环境配置

本文以菜狗的视角,一步一步地对对象字典的环境进行配置,旨在能给读者一个比较详细的参考,不恰之处,还请指正。

在线求职中... 3707

C#实现跨域访问共享文件夹的账号密码验证方案

本文详细介绍了在C#中实现跨域访问共享文件夹的账号密码验证方案。通过调用Windows API LogonUser函数,结合LOGON32_LOGON_NEW_CREDENTIALS登录类型,可安全模拟指定用户身份,有效解决工作组与域环境间的文件共享访问难题。文章提供了完整的工具类封装、多种实战场景示例及详细的错误排查指南。

pea55的博客 538

【数据治理】数据治理操作指南(完整版)

数据治理可以有效保障数据建设过程在一个合理高效的监管体系下进行,最终提供高质量安全流程可追溯的业务数据。

qq_39172059的博客 2万+

MDK5 Debug调试方法总结

MDK5 Debug调试方法总结

m0_70748084的博客 2万+

数据治理学习笔记(一):数据治理是什么,要做什么

前言: 经常在各种数据工作的文章中看到这个词,看词语意思就是要把数据管理好。作为数据基础支撑工作,其重要性也是可以想象的,平时工作中,有数据问题,一圈查下来就是一条记录的质量问题,更坑的是可能会多次都是因为同一种问题。这里有原始业务代码的bug,也有数据没有做好监管的问题。这也是很多时候的痛点。 不仅是传统提供数据仓库、BI、主数据管理、元数据管理、数据集成等数据服务的软件供应商在说数据治理,“BATJ”等互联网公司,大型国企、央企也都在谈数据治理,很多企业都将数据治理作为数智化战略的一项必要举措,列入了企

qq_42448606的博客 2万+

SAP_SD模块-销售批次策略应用记录

SAP_SD模块-销售批次策略完整案例

风沙的博客 2610

YOLOv5改进 | 低照度检测 | 2024最新改进CPA-Enhancer链式思考网络(适用低照度、图像去雾、雨天、雪天)

本文给大家带来的2024.3月份最新改进机制,由CPA-Enhancer: Chain-of-Thought Prompted Adaptive Enhancer for Object Detection under Unknown Degradations论文提出的CPA-Enhancer链式思考网络CPA-Enhancer通过引入链式思考提示机制,实现了对未知退化条件下图像的自适应增强。该方法的核心在于能够利用CoT提示对图像退化进行动态分析和适应,从而显著提升物体检测性能。

Snu77的博客 2222

数据治理:数据治理框架和标准

本文概述的是国内外的主流的数据治理框架和标准,作为指导学习,当然不同企业仍然是根据企业自身情况参考。而DCMM数据能力成熟度这个是每个数据处理企业比定的级,也是企业数据成熟度能力的一个参考项,越来越多的企业合作伙伴重视此项评级。国际上,主流的数据治理框架主要有:ISO数据治理标准、GDI数据治理框架、DAMA数据管理框架。对国际主流数据治理框架的理解,有助于我们建立符合自身业务需求的数据治理体系。

maoyuanming0806的博客 5878

【Unity 实用工具篇】✨| 使用Fungus插件制作一个对话系统,简单好学易上手

今天带来的是Unity中一款简单易用的对话插件Fungus,它是一个免费的交互式的对话系统。 Fungus是Unity免费的一款开源的插件,它可以无代码的实现玩家与NPC之间的对话,并且支持本地化,对相机、Sprite及音乐音效的控制。 学会使用该插件就可以做一些对话剧情类的游戏了,还是非常好用的,下面就来学习一下Fungus具体怎么使用吧!

努力前行,总会成为自己心中的那道光 1万+

DAMA学习笔记(二)-数据治理

数据对组织的价值。如果一个组织出售数据,显然数据治理具有巨大的业务影响力。业务模式。分散式与集中式、本地化与国际化等是影响业务发生方式以及如何定义数据治理运营模式的因素。文化因素。开展治理战略需要提倡一种与组织文化相适应的运营模式,同时持续地进行变革。监管影响。与受监管程度较低的组织相比,受监管程度较高的组织具有不同的数据治理心态和运营模式数据治理层通常作为整体解决方案的一部分。这意味着确定管理活动职责范围、谁拥有数据等。

weixin_44852067的博客 2687

Windows 下运行 openclaw 出现“‘openclaw‘ 不是内部或外部命令,也不是可运行的程序或批处理文件“的解决方案

方案适用场景推荐指数检查并手动添加 PATH明确知道全局安装目录,只是没加进PATH⭐⭐⭐⭐⭐pnpm setup 自动配置使用 pnpm 安装,想要省心的自动化方式⭐⭐⭐⭐⭐npx 免安装临时运行快速验证核心程序是否正常,排除法排查⭐⭐⭐⭐清理残留后重装npm/pnpm 混用导致版本混乱⭐⭐⭐⭐改用 WSL2不熟悉 Windows 路径体系,长期使用⭐⭐⭐'openclaw' 不是内部或外部命令这类报错,本质上不是"程序坏了",而是。

一键难忘的博客 1万+

2026年VIVO嵌入式岗位高频面试题(含参考答案)

摘要:VIVO嵌入式岗位考核涵盖智能手机、IoT设备、芯片适配等方向,重点考察硬件底层交互、RTOS/Linux开发、C/C++功底与问题排查能力。题目按优先级排序,分硬件架构、RTOS、C/C++、数据结构、Linux实践、行业认知6大模块,共40道题。硬件部分涉及中断、ARM架构、加速技术、BSP开发等;RTOS部分区分硬/软实时系统;C/C++部分侧重内存管理、位操作;Linux部分考察常用命令;行业部分关注鸿蒙等系统理念。题目设计贴合实际工作场景,全面评估嵌入式开发能力。

Open 52

一文详解数据治理框架图 | DGI数据治理(二)

在第一篇《读透数据治理:DGI框架全解(第一章)》中我对数据治理的六个问题进行了诠释,本篇将正式介绍DGI数据治理框架图,这是当前关于DGI数据治理框架最新最全面的解读。我们为什么需要数据治理框架呢?所有组织都需要制定关于数据管理、价值实现、成本与复杂性降低、风险管理以及遵守日益增多的法律和监管要求的决策。数据治理框架提供了一套管理数据资产的政策、程序、标准和指标,帮助组织明确复杂或不明确的概念。...

fuyipingwml1976124的博客 2153

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

数据治理平台

一、数据治理功能模块 1、功能模块 元数据管理:包括元数据采集、血缘分析、影响分析等功能 数据标准管理:包括标准定义、标准查询、标准发布等功能 数据质量管理:包括质量规则定义、质量检查、质量报告等功能 数据集成管理:包括数据处理、数据加工、数据汇集等功能 数据资产管理:包括数据资产编目、数据资产服务、数据资产审批等功能 数据安全管理:包括数据权限管理、数据脱敏、数据加密等功能 数据生命周期管理:包括数据归档、数据销毁等功能 主数据管理:包括主数据申请、主数据发布、主数据分发等功能 2、主要模块详细说明

BabyFish13 5490

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

数据治理系列:数据治理框架【解读分析】

作者:石秀峰,多年来一直从事企业数据资源规划、企业数据资产管理、数据治理,欢迎关注。一、什么是数据治理?维基百科:数据治理对于确保数据的准确、适度分享和...

a934079371的博客 3764

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

数据治理到底能治什么,怎么治

近年来,数据治理成为挖掘数据价值的重要手段和工具。随着大数据平台和工业互联网兴起,数据治理平台主要采用数据中台技术和微服务架构初步替代传统架构,面向大数据架构下,为数据资源中心与外部数据系统提供数据服务。那么,数据治理到底能治什么,怎么治呢? 数据治理的背景 狭义上讲,数据治理是指对数据质量的管理、专注在数据本身。广义上讲,数据治理是对数据的全生命周期进行管理,包含数据采集、清洗、转换等传统数据集成和存储环节的工作、同时还包含数据资产目录、数据标准、质量、安全、数据开发、数据价值、数据服务与应用等,整个

amsonga的博客 1789

Atlas(2):开源数据治理方案

数据治理意义重大,传统的数据治理采用文档的形式进行管理,已经无法满足大数据下的数据治理需要。而适合于Hadoop大数据生态体系的数据治理就非常的重要了。 一,元数据管理系统 市面上常见的元数据管理系统有如下几个: linkedin datahub: https://github.com/linkedin/datahub apache atlas: https://github.com/apache/atlas lyft amundsen: https://github.com/lyft/amunds.

water Wang 1万+

数据治理:认识数据治理

# 数据治理是什么 笔者自我理解就是:对数据进行任何规整处理,包括从数据从业务系统接入到最后被业务系统查询应用的这其中整个过程,都是数据治理。 然而,不同数据团队或者不同企业对数据治理的理解和定义却不尽相同 - 《一本书讲透数据治理》作者定义:所有为提高数据质量而展开的技术、业务和管理活动都属于数据治理范畴。数据治理的最终目标是提升数据利用率和数据价值,通过有效的数据资产管控手段,实现数据的看得见、找得到、管的住、用的好、提升数据质量和数据价值。

maoyuanming0806的博客 2669

数据治理:业内主流的数据治理架构盘点

不同行业、不同企业的行业特点不同、企业性质不同、信息化发展程度不同、业务和管理需求不同,其数据治理的侧重点也是不一样的。企业在设计数据治理平台框架时,应从企业的实际需求和发展需要出发,设计适合企业的数据治理架构、解决企业痛点,这个过程业界最佳实践只能参照,不能照搬,最忌讳的是贪大求全。

kuangfeng88588的博客 6163

自动化数据治理功能

最近在搞数据自动化治理,上次手中设计的数据全自动化ETL功能设计,令人欣慰的2个多月没有人管理,维护。周五时候看竟然完全符合预期。数据服务正常, 数据结果正常。程序执行正常, 日志输出正常。 期间还有大概半个多月的“护网”行动,断网测试等。丢失的数据也全部找回了。部分缺失数据,还给出了“源头数据缺失”等异常提示。 想想也在意料之中,因为本身就是按照这个设计的。 这两个多月中, 主要忙其他事情了, 比如数据自动化治理等。按照上次设计的ETL功能设计, 数据治理理念也是一个套路, 现在主要说说,这边的数据治理.

daiqiulong2的博客 1009
上一篇: 数据治理(一):为什么要数据治理
下一篇: 数据治理(三):数据质量管理
wrr-cat
博客等级 码龄9年 128粉丝 302原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值