
企业人工智能差距:工程能力决定胜负,“枯燥”能力分布不均
本周在纽约,甲骨文团队为企业开发者举办了构建检索增强生成(RAG)和智能体应用程序的研讨会,现场反响热烈,不得不扩大场地容量。这显示大家对人工智能兴趣高,但熟练运用程度参差不齐,这与和 DeepLearning.ai 联合开设课程的氛围和受众不同,那门课吸引的是更高级别的学员,他们已准备好构建具备记忆能力的智能体。
我提出企业人工智能在不同公司甚至同一家公司的不同团队间发展不均衡。观察开发者参与不同研讨会的情况后,我认为这种不均衡的采用揭示了工程能力的差异。企业人工智能的真正差距,不仅在发展速度不同的公司间,还在将人工智能视为基于提示的演示的团队,与认识到实际应用中人工智能主要是数据和软件工程问题的团队间。
目前,企业人工智能尚未进入智能体时代,仍处于基础准备阶段。
构建基础模块
“工程能力”并非获取模型的能力,大多数人已具备或很快会具备。它指的是将模型转化为系统的实际技能,包括数据建模、检索、评估、权限管理、可观测性和记忆功能,这些看似枯燥却能让企业项目成功的要素。
这影响了我们团队设计研讨会的方式。我们从人工智能的数据层入手,包括异构数据、多种数据表示形式、嵌入技术、向量索引、混合检索,以及不同数据类型间的权衡,而非一开始就讲“如何构建自主员工智能体”。
很多人工智能领域的人认为人工智能始于提示,实际上它始于多模型架构设计、向量生成、索引和混合检索等方面。企业数据杂乱,若不知如何对其建模以实现有效检索,就无法拥有企业级人工智能,只能得到精致的自动补全系统。
难点在于让模型在企业特定的复杂现实环境中发挥作用。例如,检索增强生成是一门工程学科,分块策略、元数据设计等是核心要点。若检索器性能不佳、分块处理马虎、元数据不足或没有评估环节,都会影响模型表现。
权限管理和可观测性也很关键。演示中没人关注答案来源和智能体访问权限,但在实际生产环境中,这些是关键问题,权限模糊的企业智能体存在安全隐患。
总之,使用人工智能工具不等于知道如何构建人工智能系统。很多团队会使用提示,但能衡量检索质量、调试上下文组装等的团队却很少。
企业的追赶之路
与 DeepLearning.ai 开设的关于智能体记忆的短期课程相比,能更好理解这一情况。那门课程针对希望超越单会话交互的开发者,假设学员熟悉 Python 和大语言模型基本概念,学员已有一定基础,在探讨具备记忆能力的智能体的发展方向。而我在纽约面向企业开发者的研讨会受众总体处于学习早期阶段。
这并非批评企业开发者,而是提示企业中大部分“人工智能差距”并非源于意愿不足,而是团队在运用工具前需大量学习。这也解释了我一直强调的机器学习运维(MLOps)观点,智能体人工智能增加了组件和影响范围,演示容易,但构建系统困难。
不要因企业未采用多智能体架构或流行技术就说它们“落后”,它们在学习构建实用平台所需的内容,如为检索构建数据结构、评估输出等。
大多数团队需要更多工程规范,不均衡的采用主要是人工智能工程素养差异的表现。人工智能领域的赢家将是那些教会团队将模型与业务数据结合、评估模型输出、限制智能体行为并保留关键信息的企业,即懂得让人工智能变得“枯燥”的企业,目前这种能力在企业间分布不均衡。
关键词:人工智能、数据工程、分析、职业发展、Python、编程语言、软件开发



被折叠的 条评论
为什么被折叠?



