数据治理与人工智能治理大不同:本质差异、治理挑战与应对之策

传统数据治理、大数据治理、AI 数据治理在医疗行业的比较研究 本文旨在系统比较传统数据治理、大数据治理和 AI 数据治理在医疗行业的应用现状、技术特点、面临挑战和未来趋势,为医疗数据治理的实践和研究提供参考 阅读详情

数据治理与人工智能治理的本质差异

说实话,我们问错了问题。两者真正的区别不在于哪个团队拥有什么,也不在于先做哪件事,而在于更根本的问题:究竟想要管理什么?

一方面,管理的是已存在的事物,像表、记录、管道和文件,可查看、追踪、修复。另一方面,管理的事物由随时间演变的模型生成,这些模型对同一问题答案不同,还越来越多地自主决策,甚至会根据决策行动。这不是范围差异,而是本质差异,一旦明白就无法忽视。

数据治理体系的特点

数据治理是成熟学科,能确保数据干净、安全、易访问且合规。它管理的数据,如客户记录、交易表和主数据,早已存在,有人收集、存储并编目,能知道输入和验证输出。

出现问题时,可追溯根源,检查模式,应用质量规则(完整性、准确性、一致性),得到“是”或“否”答案,流程清晰,行为可预测。这很重要,若数据架构混乱,其他都无从谈起,人工智能会继承数据层问题,所以务必从数据架构入手。

数据治理核心假设是稳定性,无论何时,输入、管道和输出都要一致。现代数据治理虽处理概率数据,但只是稳定系统内的有限例外,期望系统一段时间内运行状态相同。

人工智能治理的不同之处

人工智能工作原理不同。当对人工智能进行治理时,会发生什么变化?GoodData的白皮书指出:“人工智能治理不是数据治理的微小延伸,而是根本性转变。”

因为人工智能系统打破传统治理依赖的三个假设。首先,人工智能系统会不断演进,机器学习模型不像数据库表那样静止,会通过重新训练、反馈循环和与真实世界数据交互而变化,三个月后模型行为可能改变,这是因周围世界变化。美国国家标准与技术研究院 (NIST) 的生成式人工智能概况(AI 600 - 1,2024年7月)指出生成式人工智能的十二项风险,不符合传统质量规则。

其次,人不可能审查每个决定。传统管理模式假定有人判断,但面对每小时处理1万份申请的信用评分模型或客服人员处理成千上万次对话,没人逐一审查,决策自动化、数据量大,但仍需有人负责。

第三,质量不再是非此即彼。数据治理验证可验证属性,答案是“是”或“否”,而人工智能治理要管理置信度阈值、统计指标、业务权衡等,如欺诈检测模型判定交易欺诈概率为73.6%,是否可接受取决于具体情况、阈值和企业对误报漏报的承受损失,这是系统固有判断。

两者分歧的五个维度

从运营层面对比数据治理和人工智能治理,差距明显。

1. 自然界的数据治理追求稳定性,相同输入有相同输出,将例外作边界情况管理;人工智能治理基于不确定性是常态的假设,同样提示每次运行答案可能不同。

2. 可见性方面,数据管道透明,可追踪记录全过程;人工智能模型通常是黑匣子,无法总是解释其决策原因,生成式人工智能推理过程隐藏在数十亿参数中,无法检查。

3. 稳定性上,数据仓库在季度审计间行为不变,人工智能模型会漂移、退化。NIST AI RMF将人工智能治理定位为持续生命周期过程,与多数治理团队习惯的运营模式不同。

4. 规模上,数据管理员可检查数据集,分析师可验证报告,但人工智能系统每秒做数千个自主决策时,人工审核不现实,需要自动化监控。

5. 起源是最大问题。数据治理管理已存在的数据,人工智能治理要处理刚生成的数据,生成模型运行时创建新内容,大语言模型(LLM)和智能体每天产生数百万条新记录,无适当标签,合成数据会泄露回主数据库,用其训练未来模型会导致模型崩溃。

例如,营销团队用大语言模型(LLM)生成10,000条产品描述存入数据仓库,无标签表明是人工智能生成,六个月后另一团队基于此训练模型,新模型会将错误当事实学习,这是数据治理失误,传统数据质量规则无法发现。

智能体人工智能带来的挑战

能动浪潮包含前面描述的情况,还增加了自主性。当人工智能代理能自主行动时,管理的是自主系统。

麦肯锡报告指出企业不能只关注人工智能系统说错话,还要应对做错事的情况。OutSystems报告显示96%的组织使用人工智能代理,94%担心无序扩张,但只有12%的组织部署集中式平台管理。这与影子IT危机类似,但风险更高,人工智能代理会决策、执行命令和采取行动。

两者的联系与区别

数据治理和人工智能治理有很多共同之处,都重视信任、明确所有权和责任、追求质量、关注安全和隐私,有强大数据治理能力的组织有先发优势。

但没有健全的数据治理,人工智能治理只是幻觉,数据不可靠,模型也不可靠,针对人工智能的治理措施无法解决问题。单靠数据治理也无法解决人工智能治理的问题,需要人工智能治理解决方案,如NIST AI RMF 1.0及其GenAI Profile,或ISO/IEC 42001。

人工智能治理吸收、扩展并超越了数据治理。它吸收数据治理,因为干净数据是基础;扩展数据治理,因为模型等需要溯源和质量控制;超越数据治理,因为要治理漂移、行为等。

监管压力与紧迫性

数据治理有时间发展成稳定体系,人工智能治理没有这样的机会。监管时钟不再抽象。

2026年8月2日,欧盟人工智能法案大部分规则生效,第50条透明度义务适用,附件三高风险人工智能系统规则实施,但具体时间表有变数,通用人工智能模型规则自2025年8月实施,成员国处罚机制已到位。该法案有域外效力,适用于在欧盟境内使用输出的人工智能系统。加拿大、科罗拉多州和中国也在推进类似治理要求,欧盟最后期限最具体。

如果治理项目抱着“到时候再说”的心态,时间窗口迅速关闭,2026年治理是合规最后期限。

可采取的三件事

如果组织有数据治理计划并部署人工智能,可从以下方面入手。

1. 从定期审计转向持续监控。季度数据质量审查对偏差系统不够,NIST AI RMF的测量功能可实时跟踪模型性能等,持续测量能发现单次审计无法发现的偏差。

2. 构建能捕捉行为的模型和代理注册表。数据目录告知数据情况,AI注册表要涵盖预期行为等,ISO/IEC 42001提供框架,有38项控制措施,可审计性与ISO 27001相同,要达到此标准,仅依靠版本号不够。

3. 在源头为人工智能生成的内容添加标签并强制执行。这成为法律要求,欧盟《人工智能法案》第50条2026年8月生效,要求人工智能生成内容透明,进入数据存储前要添加标签,禁止用未标记内容训练,C2PA标准是新兴来源基准,Adobe等已采用,此策略可防止模型崩溃并符合法规。

思维方式的转变

真正的问题不是“哪个先出现”或“如何重叠”,而是组织是否理解管理人工智能需要不同思维方式。

数据治理前提是稳定,人工智能治理前提是变化。一个验证已知信息,一个监测正在发生的事;一个检查质量,一个监控偏差;一个追溯血统,一个预测行为;一个决定系统是什么,一个决定系统做什么。

数据治理建立对信息资产的信任,人工智能治理建立对系统运行方式的信任。若将人工智能治理视为数据治理附加组件,当模型偏差、智能体行动或生成数据破坏训练流程,或监管机构要求提供证据时,会毫无准备。

做得好的组织构建应对不确定性的治理体系,有持续监控、反馈循环、内置可解释性和有效问责机制。

在组织中,数据治理和人工智能治理的界限在哪里?是定义明确还是自然演变?很想听听想法。

AI应用架构师如何用企业数据治理体系为业务创造价值? 数据质量与AI性能的非线性关系AI模型,尤其是深度学习模型,对数据质量具有复杂的敏感性。小比例的数据异常可能导致模型性能的显著下降,这种非线性关系使得传统的数据质量控制方法不足以满足AI需求。研究表明,在某些场景下,5%的数据标签错误可能导致模型准确率下降30%以上。数据异构性与多模态需求AI应用,特别是生成式AI和多模态模型,需要整合结构化数据、非结构化文本、图像、音频和视频等多种数据类型。传统数据治理框架主要针对结构化数据设计,难以应对AI所需的多模态数据管理挑战。数据时效性与模型漂移。 阅读详情

相关推荐

解锁AI数据治理:方案与代码实操大揭秘

摘要:AI数据治理是实现高质量AI应用的关键基础。随着AI技术在各领域的广泛应用,数据质量问题(如错误标注、信息缺失)、安全隐私风险及多源数据整合困难成为主要挑战。解决方案包括: 自动化数据清洗:运用NLP和异常检测算法提升数据质量; 智能元数据管理:通过大模型自动生成标签,构建血缘关系图谱; 动态安全防护:利用深度学习识别敏感数据,结合规则引擎确保合规。实践案例显示,金融企业通过治理使风控误判率降低30%,互联网公司数据共享效率提升80%。完善的AI数据治理体系能显著提升模型性能,降低合规风险。

DataLaneYoker 921

人工智能发展的前沿趋势、治理挑战与应对策略

(如分级监管、国际合作),同时提升公众伦理意识。未来,全球AI治理将呈现“三足鼎立”格局:欧盟筑牢安全基线,美国维护技术霸权,中国探索场景化路径。,才能平衡创新与风险,推动AI向善发展。(如联邦学习、XAI)与。

2401_82363370的博客 1540

从数据治理到模型治理:企业AI工具链完整解决方案

企业AI落地的最大陷阱,不是算法不够先进,而是**“重模型、轻治理”——数据像“过期食材”一样脏乱差,模型像“无照厨师”一样任性输出,上线后要么效果暴跌,要么触发合规风险。本文将用“餐厅做饭”的生活化类比,拆解从数据治理(食材管理)→ 特征工程(备菜)→ 模型训练(烹饪)→ 模型治理(菜品质检)→ 监控反馈(顾客评价)**的全链路逻辑,结合真实代码示例、工具选型和企业案例,帮你搭建一套“稳定、可靠、合规”的AI工具链。AI的价值不是“用模型预测未来”,而是“用治理保障预测的可信”。

AI Python 编程之道的博客 1227

医疗领域 AI 数据治理学术分析与实践研究

本文系统研究了医疗AI领域的数据治理问题,分析了国内外治理模式差异及典型应用场景下的治理策略。研究表明,医疗AI发展面临数据隐私保护与技术创新之间的平衡难题,欧美强调个人数据主权和事前监管,中国则采取包容审慎的治理思路。针对临床决策支持、医学影像分析和电子病历管理三大场景,研究提出了差异化的数据采集、隐私保护和质量控制方案。文章构建了包含数据层、算法层和应用层的技术架构,并从法律、技术、管理三个维度提出综合治理建议。未来医疗AI数据治理将向智能化、标准化方向发展,需加强国际协作以推动产业健康发展。

SanBa 1709

数据治理的主题库是做什么的

主题库是数据治理体系中的核心组件,指围绕某一业务主题或实体对象,通过数据清洗、整合、标准化等手段形成的逻辑化、高质量数据集。主题导向:以业务领域(如“人、地、物、事件”)或实体对象(如车辆、房屋)为分类维度,通过逻辑建模形成跨部门、跨系统的统一视图。数据治理成果载体:存储从数据资源池抽取的经过ETL(抽取、转换、加载)处理后的标准化数据,解决原始数据的碎片化、冗余和低质量问题。分层架构:通常与基础库、专题库构成数据资源体系。

kcarly的专栏 1473

AI原生应用中的数据治理:增强智能系统的关键挑战

仅靠先进的算法无法构建可靠的智能系统,数据治理能力才是决定AI应用能否落地、能否持续创造价值的关键。本文将聚焦AI原生应用的特殊性(如实时数据依赖、动态模型迭代、多模态数据融合),分析数据治理在其中的独特挑战,并提供可操作的解决方案。本文将从“故事引入→核心概念→技术原理→实战案例→未来趋势”逐步展开,通过“智能医疗助手”的虚构案例贯穿全文,用生活化语言解释数据治理的核心环节(如数据质量、隐私保护、模型可解释性),并结合代码示例与数学模型加深理解。AI原生应用。

AI大模型应用之禅 1034

面向AI的数据治理,开启 AI 时代的成功密码

面向AI的数据治理,开启 AI 时代的成功密码

ith321的博客 1613

元宇宙法律治理的风险挑战与应对之策

摘 要:元宇宙作为当前数字信息技术发展的前沿领域,其构建的虚实相融的社会新形态,在为人类社会带来全新数字生活体验的同时,也给人类社会现行法律治理带来了新的风险挑战,因此需要坚持问题导向,加强深入研究,依法规范和引导元宇宙的创新发展。首先,介绍了元宇宙的背景知识、基本概念、国内外发展现状;其次,阐述了元宇宙法律治理面临的隐私保护、虚拟资产、知识产权、网络犯罪、数据治理 5 个方面的风险挑战;最后,从立法监管、技术支撑、平台自律 3 个方面为元宇宙的法律治理提出了对策建议。内容目录:1 元宇宙的相关知识1.1

qq_61890005的博客 289

从数据治理到人工智能治理

早在 2024 年 3 月,我就写了一篇题为“”的逆向文章,认为数据治理官的角色在其现代结构中是的(为了生存)。我几乎不知道这篇文章会成为我迄今为止在 Medium 上阅读量第二多的文章。我的语气是敌对的,反应是两极分化的。我没有意识到数据治理社区在全球范围内如此庞大!但它开辟了一条有趣的讨论脉络。虽然我的文章当时确实涵盖了人工智能的数据管理方面,但向前推 1.5 年后,我们现在正站在另一场名为 Agentic AI 的潜在毁灭性海啸的悬崖边。治理的话题再次离我的思绪不远了。

weixin_42600279的博客 791

第八章 MobileNetv3网络详解

本文介绍了基于互补的搜索技术和新颖的架构设计的MobileNets的下一代。MobileNetV3通过硬件感知网络架构搜索(NAS)和NetAdapt算法相结合,针对移动电话CPU进行优化,随后通过新颖的架构改进技术进行了进一步提高。本文开始探索自动化搜索算法和网络设计如何相互协作,以利用互补的方法改进整体技术水平。通过此过程,我们创建了两个新的MobileNet模型:MobileNetV3-Large和MobileNetV3-Small,分别针对高资源和低资源使用情况。

ADICDFHL的博客 1万+

第二十届全国大学生智能车竞赛-地瓜机器人智慧医疗挑战赛技术解析与实战指南

本文深入解析了第二十届全国大学生智能车竞赛-地瓜机器人智慧医疗挑战赛的核心技术。内容涵盖从零搭建数字孪生环境、实现AI视觉任务(二维码识别、引导线追踪、目标检测)、在边缘设备部署轻量化大模型进行图生文描述,到遥操作与自主控制的平滑切换,并提供了基于ROS2的系统集成与赛场实战指南,助力参赛者高效备赛。

weixin_29252171的博客 2782

Magic Data入选艾瑞《中国面向人工智能的数据治理》行业研究报告

数据治理丨研究报告​​​​​​​丨核心摘要: 治理需求热潮:企业在数字化转型过程中先建设后治理的常态,使得数据治理愈发受到企业重视,另一方面,新兴技术与应用场景的快速落地,也带领数据治理需求在加速攀升。未来,随着非结构化数据的积累增加与AI应用的数据需求推动,企业对非结构化数据的价值化需求将加速释放,而多源异构数据基础下的数据治理模块也将获得进一步的关注与优化。 治理体系升级:目前传统数据治理体系多停留在结构性数据化治理工作,尚难满足AI应用对数据的高质量要求。企业可吸收传统体系的智慧沉淀,以AI应..

weixin_47718443的博客 4674

华为防火墙 策略路由实现多ISP接入Internet

PC3上网访问Server1时走ISP1。PC4上网访问Server1时走ISP2。1、配置接口IP并加入相应的安全区域。二、ISP2 运营商 R2路由器。一、ISP1 运营商 R1路由器。

一直被模仿,从未被超越 3016

什么是数据治理

1. 什么是数据治理 数据治理的定义 数据治理的目的

Winter的博客 4876

RK3568/RK3288开发板Ubuntu系统下QT交叉编译环境搭建全攻略(含常见问题解决)

本文详细介绍了在Ubuntu系统下为RK3568和RK3288开发板搭建QT交叉编译环境的完整流程。内容涵盖从基础环境配置、桌面版Qt Creator安装、交叉编译工具链获取与配置,到编译ARM版Qt源码、在Qt Creator中配置交叉编译套件,以及程序部署与远程调试实战。文中还提供了常见问题(如库缺失、运行错误等)的解决方案,旨在帮助开发者高效完成嵌入式QT应用开发。

weixin_29174013的博客 898

海思SD3403/SS928V100开发(6)单路GMSL-MIPI-YUV相机视频输入调试

硬件连接:森云GMSL相机 -> GMSL 解串器 -> SD3403 MIPI0暂时先进行单路视频输入通路调试。

jzwjzw19900922的博客 1937

为什么工业数据治理不同于通用数据治理?

随着数据规模的快速增长,数据治理已经成为各类组织必须面对的一项基础能力。在传统企业环境中,数据治理主要围绕业务数据展开,例如客户信息、财务数据、人力资源数据和交易记录,目标是确保合规性、数据质量和安全性。但在工业环境中,数据所处的条件完全不同。数据来自机器、传感器、控制系统和各类联网资产,持续产生、规模巨大、且高度实时。由此可见,工业数据治理绝非通用数据治理在工业领域的简单套用,而是一套受运营流程、安全规范与现实场景约束的独立治理范式。

TDengine(老段)专注时序数据库领域 1029

【DaVinci Developer专题】-28-Client Server Port Interface中useArgumentType、useArrayBaseType和useVoid介绍

共7页 目录 1 ImplPolicy = useArgumentType 2 ImplPolicy = useArrayBaseType 3 ImplPolicy = useVoid 4 三者代码差异部分 5 结尾 <--返回「实战篇」博文-总目录--> <--返回「Autosar从入门到精通-实战篇」专栏主页--> 关键字: 缩略语/术语 含义 DEV DaVinci Developer

「汽车电子助手」的博客 1505

大模型时代:数据治理与人工智能的双向赋能闭环

大模型并非 “来者不拒”—— 低质、违规或伦理敏感的数据可能导致模型输出偏差,比如文生图模型因 “坏数据” 生成不当内容。数据治理需在语料层面明确数据边界,通过法律、伦理、合规的多维度筛选,确保输入大模型的数据 “干净且可用”。这种治理不仅提升模型效果,更规避了技术滥用风险。

esensoft123的博客 670

3.38 工业缺陷检测实战:物体表面缺陷检测,从图像处理到深度学习

本文介绍了工业缺陷检测的完整流程,从传统图像处理到深度学习方法。首先定义了缺陷检测任务的目标和应用场景,然后详细讲解了传统图像处理方法(边缘检测、阈值分割等)和深度学习方法(分类、检测、分割模型)。文章最后总结了核心要点,提出了思考题和实践建议,建议从简单方法开始逐步优化。下一篇将介绍工业视觉基础技术——相机标定与角点检测。

yonggeit的博客 2890

【LOGO动态替换】记录一次关于LOGO动态替换引发的uboot代码分析及其实现

文章目录1.前言2.实现2.1 新增logo分区2.2 制作logo分区镜像2.2.1 查看logo.bmp和logo_kernel.bmp的文件大小。2.2.2 按规则将bmp写入logo.img3.分析3.1 uboot的启动分析3.2 uboot bmp load 显示部分3.2.1 rockchip_show_logo3.2.2 load_bmp_logo3.2.3 load_bmp_logo3.3 uboot bmp read部分3.3.1 read_logo_bmps3.3.1 read_bmp

wang 恒 的博客 1214

人工智能伦理:原则、挑战与应对策略

通过确立公平与公正、隐私保护、透明与可解释、责任明确等核心原则,应对算法偏见、隐私侵犯、责任界定模糊、价值观冲突等挑战,采取数据治理与审核、算法审计与优化、法律法规与标准制定、伦理教育与培训等策略,以及展望跨学科研究与合作、国际合作与协调、技术创新与伦理融合等未来发展方向,我们可以推动人工智能技术在伦理框架内的可持续发展,使其更好地为人类社会服务,实现技术与伦理的和谐共生。例如,在自动驾驶汽车的设计中,需要考虑在发生不可避免的事故时,应该优先保护车内乘客还是行人的安全,这涉及到道德和伦理的抉择。

2501_91206840的博客 2141

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

金融大模型:数据治理与AI应用创新的新时代

金融大模型:数据治理与AI应用创新的新时代

ith321的博客 2138

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

2022中国面向人工智能的数据治理行业研究报告

前言:数据与数据治理 数据资产 数字经济的“货币”,早已不限于数字形式 “数据资产化”是企业发展的重要内涵。“数据”并不仅指以数字形式存储的信息,根据其特性及治理方法可以划分为内部数据与外部数据,结构化数据、非结构化数据与半结构化数据,元数据与主数据等。 正在上传…重新上传取消 数据爆发 IT设施“扩容”、IoT广泛连接带来数据暴增 数据时代来临,大量业务数据被采集、存储,以支撑企业数字化和创造经济效益。但很多企业早期的信息化建设缺乏统筹规划,导致数据孤岛,数据不规...

围城客的专栏 2209

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

领码前瞻|数据治理,你做对了吗?——从“管人”到“会用”,AI 驱动的治理新范式

摘要:数据治理的核心在于构建"管人如何管数据"的能力体系,而非简单技术工具部署。本文系统阐述了数据治理的本质框架(制度设计、组织协同、技术赋能)、常见误区(10大症结及对策)及AI驱动的新范式(智能检测、策略即代码等),并提供了三阶段落地路线图(筹建期→扩展期→规模期)和可量化指标体系。强调通过"业务场景牵引+制度先行+技术赋能"的组合策略,实现数据从"可用"到"善用"的价值跃升,最终形成数据资产化闭环。(149字) 关键词:数

领码SPARK - 以无代码之星火,燎原数字之未来! 2149

第二篇:中国企业数据治理现状与典型挑战

随着数字经济的快速发展,数据已成为企业的核心战略资产。然而,中国企业在数据治理实践中仍面临诸多挑战。本文将深入分析中国企业数据治理的现状,对比金融、医疗、制造业等不同行业的数据治理成熟度,梳理相关政策法规驱动因素,剖析企业普遍面临的数据治理痛点,并通过典型案例深入探讨数据治理项目失败的根本原因,为企业构建有效的数据治理体系提供参考。

我的博客 1979
上一篇: 谷歌 Gemma 4 多模态模型实测:大小版本各有优势,小模型或成首选!
下一篇: OpenAI发布ChatGPT Images 2.0:文生图能力跃升,逼真效果引伦理担忧
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值