一文说清:大模型AI Agent在企业应用中的6种基础类型

DataAgent是最容易落地的Agent场景? 阅读详情
  • 创作与生成类助手

  • 企业知识助手

  • 数据分析助手

  • 应用/工具助手

  • Web操作助手

  • 自定义流程助手

本篇将对这几类AI助手分别做进一步探讨。

PART\01

创作与生成类助手

大模型是生成式AI的基础,因此,理解、创作与生成内容是其强项也是最基本的能力。在C端市场,大量的生成类AI工具已经遍地开花(包括图片、视频、音乐),也是目前最成熟的一种应用形式。需要注意的是,在C端工具中,我们也经常看到各种形式的简单“助手”:

图片

这里的助手与我们这里探讨的企业应用中的AI Agent有一定的区别:

图片

AI Agent是一个以任务驱动的具备自主能力的智能体,不仅需要大模型这个核心“大脑”,也需要任务规划、记忆与外部工具使用等能力。而我们常看到的个人AI助手大部分是基于预设提示词的大模型问答Bot,在不借助其他插件时,通常不具备工具使用能力。

图片

当前在企业应用中以内容创作生成为主要能力的AI Agent从技术上至少有两种:

1、单Agent的内容生成。简单地将大模型的生成能力通过API集成到其他应用与业务流程中,替代或简化原来由人工完成的部分工作。比如:

  • 在线培训管理系统中,利用AI自动根据课件创建考题/考卷

  • 在数字营销流程中,利用AI生成精确营销话术甚至撰写营销方案

  • 市场分析的AI Agent基于互联网搜索或开放数据生成市场分析报告

  • 电子商务企业借助AI自动批量生成商品摘要

  • 媒体行业通过AI生成新闻摘要;学术平台借助AI生成论文摘要

这种类型的AI助手简单的借助Prompt工程即可实现(与C端个人助手并无本质区别):

图片

2、基于多Agent协作(可能还有人类)的内容生成。典型的为虚拟机器人软件公司,由AI Agent担任多个软件开发岗位,通过相互协作完成某个软件开发任务。

这种多Agent协作型的助手可以借助Multi-Agents框架来简化开发与实现。 比如MetaGPT,可以根据自然语言描述的开发任务,组建Agent团队(PM、架构师、程序员、QA等),遵循SOP并最终输出完整软件开发的成果(文档、代码、API说明等)。

图片

其他支持多Agent的开源框架包括微软的AutoGen,xAgents等。

PART\02

企业知识助手

当前较为成熟的一种Agent类型。通俗地说,就是在企业应用中,通过“外挂”私有知识库来扩充大模型的知识储备,以提供基于自然语言的、对话式的企业私有知识访问(对应到AI Agent的基本能力之一:持久化记忆),以解决通用大模型在面向企业应用时领域知识不足导致的幻觉问题。

知识助手通常借助于大模型的RAG(检索增强生成) 方案来实现,其本质上也是一种提示工程:借助于在大模型输入时携带相关的私有知识上下文,让大模型理解、总结、整理并回答用户问题。 只是这里的私有知识上下文需要借助嵌入模型(Embedding Model)、向量数据库(Vector Store)、文档加载分割(Document Loader&Splitter)等相关技术来获得。

知识助手的技术实现基础架构如下:

图片

基于RAG方案的AI助手实现可以自行通过代码直接实现,当然,为了简化开发与管理过程,推荐使用的工具包括:

  • LangChain或者LlamaIndex大模型主流应用开发基础框架。这两个基础框架对大量的模型、文档加载器、向量数据库、嵌入模型等做了抽象封装,并对RAG应用过程中的知识检索、Prompt组装等过程做了简化,可以大大简化开发过程。

图片

  • 另一类是具备一定开箱即用能力的RAG应用构建平台。相对基础开发框架来说,提供了更完善的RAG应用构建工具,比如私有知识库的管理维护、测试、对话流程编排、提示词自定义等能力。这里推荐两个项目,一个是基于Langchain构建的Langcahin-Chatchat;另一个是FastGPT,后者有用于商业运营的SaaS应用,可以自行体验。

PART\03

数据分析助手

数据分析与商业智能(BI)在中大型企业的日常运营中的重要性毋庸置疑,无论是简单的财务数据分析,还是复杂的客户与运营数据洞察,都需要借助专业的工具。传统BI工具使用门槛高、过度依赖技术部门、结果产出周期长的问题在AI时代可以借助大模型的能力得以缓解。

基于大模型的数据分析助手(Data Agent)是在企业应用中通过将自然语言转换成数据分析的语言或代码,比如对API的调用、对数据库的访问、甚至编写数据分析代码,来达到获取数据、分析数据与可视化结果的目的。其实现基础架构与原理如下:

图片

无论是对本地的Excel数据文件分析,或者对数据库中的关系型数据分析,又或者对互联网的非结构化数据分析,当前大模型实现数据分析的技术途径基本以这三种方式为主,自然语言转API、转SQL、以及代码解释器(转代码)。

这里推荐几个除Langchain之外构建数据分析助手的工具与项目:

  • **DB-GPT:**一个国内团队的以重新定义数据交互为使命的强大开源项目,包含完整的前后台项目实现,实现了多场景下的交互数据分析。包括数据库分析、Excel分析、仪表盘分析等,该项目的另一个特点是后端大模型的可伸缩管理架构。另外还有一个专注于微调Text2SQL模型与评估的开源项目。

  • **OpenAgents:**一个来自香港团队的开源项目,Data Agent是其中一个重要的Agent实现。当前主要实现了对本地结构化数据文档的数据分析,其特点是提供了两种数据分析方法供选择,一种是基于SQL,一种是基于代码解释器。

  • **OpenInterpreter:**当前最强大的开源代码解释器,完美地复刻了OpenAI的代码解释器实现,但是可以完全在本地部署与使用,利用它来实现本地的数据分析与可视化是一个不错的选择。

需要注意的是:数据分析助手严重依赖大模型对自然语言转数据操作的能力(SQL或Python代码等)。当然条件下,即使是针对这种场景专门优化的模型与提示工程,其失败概率也很高(比如Text2SQL目前最高成功率在80%左右)。因此,在实际实施中需要根据场景、复杂性、可靠性要求做综合评估。

PART\04

应用/工具助手

企业应用中的AI助手很多时候需要与现有应用(CRM、OA系统)做集成与交互,以完成某个用户任务或者驱动业务流程。比如:如果你需要AI帮你在协同办公系统中提交一个付款申请,那么你需要调用办公系统的接口;或者你需要借助互联网获得最新某上市公司的财务报告,你需要调用第三方平台的公开接口。这就是AI Agent另一项重要能力:工具使用。

AI应用/工具助手就是能够把自然语言转换成对企业应用或者互联网开放API调用的一种基础Agent形式。 当然,在复杂任务场景下的这种调用往往不是单一的。其基础架构与原理:

图片

应用助手的基本原理是比较简单的,其复杂性主要体现在大模型对自然语言转API的能力,在实际使用中,其主要体现以下两个方面:

  • 能否根据上下文理解,精确匹配到需要使用的API(一个或者多个)

  • 能否准确地提取或生成每个API的调用参数

在实际测试中我们发现不同的大模型在这方面的能力是有较大的差异的,而且即使是最优秀的模型,也存在一定的不确定性,比如有时候无法判断出正确的工具。

在构建企业基于大模型的应用助手时,有一些工程问题是需要考虑的,这些问题在做原型或者测试时容易被忽视:

  • 企业中API过多的优化方案。由于需要通过Prompt提示LLM这些API信息,过多的API描述可能会导致上下文溢出;而且大量的API相互干扰,会提高大模型推理时的错误率。之前我们介绍过一种优化方案:借助向量库语义搜索,每次只检索出本次任务相关的API描述,再交给LLM处理。

图片

  • 需要设计一个标准化的、容易扩展、易于插拔的工具/插件架构。 即能够灵活快速地扩展Agent的“工具包”,在增加新的工具时,通过简单的配置甚至自动化生成,即可给Agent动态赋予新的工具能力。

构建应用助手的一些工具和项目推荐:

  • LangChain:LangChain中的Agent组件,通过组装多个Tools,封装与简化了大模型使用工具的过程,可以让你专注于Tools的创建即可。

  • Assistants API:这是OpenAI官方最新放出构建AI助手的API,如果你条件具备,也可以基于此构建企业AI助手,充分利用其强大的gpt4模型。其中对工具的使用主要体现在其对Function Calling功能的支持。

  • OpenAgents:该项目中的Plugins Agent实现了对大量开放API的智能使用,并且可以灵活配置增加新的Plugin,可以参考其实现。

  • **集简云:**类似海外Zapier的平台。该平台对接了国内大量的SaaS应用与互联网平台作为“工具”。因此,你可以通过简单的配置后,在你的AI助手中通过API来对接这些工具,可以大大拓展你的AI助手的“工具库”。

PART\05

Web助手

一种类似RPA(机器人流程自动化)的AI智能体。其主要能力是**自动化Web网络浏览、操作与探索的动作与过程,以简化web浏览访问与操作。对于个人来说,可以作为个人数字助理,简单对话即可让AI帮你完成Web浏览与操作,比如在线订票。而对于企业来说,则可以作为企业的数字员工,来简化企业日常工作中重复性较高、流程与规则固定、大批量的前端操作性事务。**比如批量订单处理、批量客户联络、批量网站抓取等,提高效率,降低错误率。

图片

传统的RPA机器人也是用来完成此类工作的AI形式,由于这种AI机器人工作在软件的最上层即操作层面,好处是流程直观、简单、也可以配置化,且对应用无侵入性;但其缺点是与前端应用耦合性大,每个任务需要根据前端应用界面做精心配置与调试,自适应能力较差。

在大模型出现以后,给这一类RPA智能也带来了新的优化空间。利用大模型的理解与分析推理能力,可以让AI更加智能的规划与分解任务过程,然后借助浏览器完成执行;且在未来可以利用像GPT-4V这样的视觉模型,更智能的理解界面元素与功能,实现完全自主的智能操作,具备更强的自适应能力。

实现一个自主Web操作的Agent的基础原理与架构:

图片

构建一个真实应用的Web Agent需要借助浏览器自身能力。由于外部应用无法直接接管浏览器实现操作,一般需要借助浏览器插件,比如Chrom扩展,借助浏览器API完成网站导航与自动化网页操作,比如点击界面元素,或者输入表单。

我们前面介绍到的OpenAgents项目中的Web Agent是一个基于Chrom浏览器与扩展而实现的一个LLM Agent,可以参考用作参考。

当然由于大模型的输出不确定性,当前的Web Agent仍然处于探索实验阶段,具有较大的失败或误操作可能,实际应用中需要根据情况反复测试与评估。

PART\06

自定义流程助手

最后一种AI Agent严格来说是上面的几种基础Agent能力的组合。

理想中的AI Agent是在丢给他一个工具包与一些知识以后,借助于大模型的理解、推理能力,完全自主的规划与分解任务,设计任务步骤,并智能的使用各种工具,检索知识,输出内容,完成任务。但是在企业应用中,由于企业知识、应用、业务需求的千差万别,以及大模型自身的不确定性,如果这么做,那么结果很可能是“开盲盒”一样的不可控。所以这也是越来越多的Agents项目要强调可控性的原因,即能够对AI智能体的执行过程与细节进行更多的控制,来让AI按照人类确认过的工作流程来完成任务。

比如之前我们介绍的HR简历自动化筛选的场景中,你可能需要更加细致的去定义整个自动化工作流程,包括:

  • 主要的工作步骤与目标设定

  • 每个步骤使用的大模型

  • 每个步骤可以使用的工具

  • 可以输入与携带的知识与文档

  • 其他必要的限定与指令

图片

在实际应用中,这样基于LLM的工作流既可以是直接面向使用者的对话机器人来触发;也可以是完全后台触发。

实现这样的自动化工作流程AI智能体,除了借助Langchain/LlamaIndex这样的LLM开发框架直接定制外,还可以参考或利用一些开源项目:

  • 借助类似Flowise或者FastGPT这样的具有LLM流程可视化编排能力的框架或平台,可以更加直观简单地定制任务流程

  • 借助类似SuperAGI这样可快速简单化定制LLM流程的Agent框架来实现

图片

PART\07

结束语

以上,我们对企业应用中的大模型AI Agent从技术原理层面区分的几种类型做了简单探讨。实际上这里的每一种类型也都是一个可以深入的复杂话题,其中部分类型在之前的文章中也展开深入过,后续我们也会关注AI Agent技术趋势与发展,并在未来做持续分享。图片
​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

Data Agent概述 Data Agent是一种基于大模型技术的智能数据分析助手,它继承了AI Agent的“智能骨架”,包括自然语言理解、任务规划、工具调用等能力,又融合了数据工程的“专业肌肉”,如SQL编写、数据清洗、模型推理、报表生成等操作能力。它是一种能自主理解意图、操作数据系统、完成分析任务的“类人智能体”,可以被看作是一个BI报告生成器、全天候的数据分析助手或者懂业务逻辑的SQL编程专家。简单来说,Data Agent是一个能自主理解、分析、处理和响应数据任务的AI智能体。 阅读详情

相关推荐

AIAgent部署与监控实现人机协作的高效运行

AIAgent部署与监控-实现人机协作的高效运行 1.背景介绍 1.1 人工智能时代的到来 随着计算能力的不断提升和算法的持续创新,人工智能(AI)技术正在以前所未有的速度发展。AI系统已经广泛应用于各个领域,如计算机视觉

AI天才研究院 678

Data Agent:Data + AI最典型的应用场景

另外,当有特定的数据提取需求时,它也能辅助生成相应的查询代码,展示结果,并支持可视化数据分析,进而高效地完成高质量的数据分析报告,助力企业更好地挖掘其数据资产潜力。在大模型领域,Agent是一种基于大模型技术,能自主感知环境信息、运用自身智能进行分析决策,并采取行动以达成特定目标的智能实体,具有自主性、智能性和交互性等特点,可应用于智能客服、机器人控制、数据分析决策等多个场景。:在客服场景中,Data Agent 可以理解用户的问题,从相关数据中获取答案,为用户提供准确、及时的服务,提高客服效率和满意度。

微信搜:import_bigdata,大数据领域硬核原创作者 3465

Python爬虫实战:绕过B站-352风控的完整解决方案

网络爬虫技术是数据采集和自动化测试的重要工具,其核心原理是通过模拟HTTP请求获取网页数据。在实践过程中,开发者常会遇到网站反爬机制,这涉及请求指纹识别、IP行为分析等安全技术。这些风控措施的价值在于保护网站数据安全和服务器资源,广泛应用于电商、社交、内容平台等场景。针对B站等平台的-352风控错误,需要综合运用请求头伪装、会话管理、参数签名破解等技术方案。本文重点探讨如何通过构建完整的浏览器级请求头、管理Cookie会话、以及使用Playwright等浏览器自动化工具,有效解决Python爬虫在B站数据采

weixin_33912638的博客 399

一文读懂AI驱动的Data Agent

一文读懂AI驱动的Data Agent

ith321的博客 3468

lisflood-fp(一)从源码到可执行文件:Windows下的Cmake实战编译指南

本文详细介绍了在Windows环境下使用Cmake工具编译lisflood-fp水文模型源码生成可执行文件的全过程。从开发环境配置、源码获取到实战编译,逐步指导如何解决常见错误并处理运行时依赖,最终生成可用的exe文件。特别适合水文专业研究者和工程师学习参考。

weixin_30555125的博客 481

COMSOL两相流(相场法)

COMSOL是一款功能非常强大的多物理场仿真软件,拥有可视化和后处理工具,可方便有效的展示您的仿真效果,具有灵活、高效、友好的特点,软件能够为用户提供各类工程问题的解决方案,从而帮助广大研究和工程人员能够在科研上取得新突破。 COMSOL可以实现声学、传热、流体力学、结构力学等方面的模拟仿真,具体模块如下图所示。 COMSOL软件设置流程 定义需要求解的问题类型:针对一个需要仿真的问题,需要先对问题进行分析;分析该问题用到哪些物理场,什么样的几何模型,以及如何设置研究等。该步骤可以使用COMSOL中的

weixin_47139559的博客 1万+

一文说清:大模型AI Agent在企业应用中的6种基础类型,Agent看这一篇就够了

AI Agent智能体在企业应用中落地的价值、场景、成熟度做了分析,并且探讨了未来企业IT基础设施与架构如何为未来Gen AI(生成式AI)做好准备。在这样的架构中,我们把最终体现上层应用能力的AI Agent从不同的技术要求与原理上分成了几类。

qq_46094651的博客 1074

【实战】S7-PLCSIM Advanced V3.0 授权问题排查指南(Error Code:-30与LicenseNotFound深度解析)

本文深度解析S7-PLCSIM Advanced V3.0启动时遇到的Error Code:-30与LicenseNotFound报错问题。文章提供了一套系统性的排查指南,从检查WinPcap驱动兼容性、确保Automation License Manager服务运行,到正确安装浮动授权以及清理系统残留缓存,逐步解决授权链条中的各个环节故障,帮助用户彻底解决仿真环境启动失败的问题。

weixin_29185167的博客 721

一文说清:大模型AI Agent在企业应用中的6种基础类型_企业级ai agent

最后一种AI Agent严格来说是上面的几种基础Agent能力的组合。理想中的AI Agent是在丢给他一个工具包与一些知识以后,借助于大模型的理解、推理能力,完全自主的规划与分解任务,设计任务步骤,并智能的使用各种工具,检索知识,输出内容,完成任务。

2401_84208172的博客 1549

199、影像技术 roadmap 规划:未来移动影像的技术趋势与芯片算力展望

本文探讨了未来移动影像技术的发展趋势与芯片算力规划。作者从实际案例出发,指出影像技术演进需平衡传感器、ISP、算力和功耗。文章分为三部分:1)传感器将从堆像素转向提升信息密度,重点关注双层晶体管结构、混合快门和多光谱技术;2)ISP架构将向可编程计算单元转型,强调神经网络加速、硬件化多帧融合和语义处理;3)芯片算力瓶颈在于数据搬运,需优化存算一体架构、专用DMA和统一内存。最后给出五点建议:避免盲目追高像素、重视持续功耗、平衡ISP灵活性、预留算力余量、加强传感器与ISP协同设计。作者强调,影像技术的突破在

sundong_81的博客 60

第一章 千牛实时获取消息之ws服务端搭建

以上就是今天要讲的内容,本文仅仅简单介绍了ws服务端的搭建,后面将介绍ws客户端的搭建和配合ws服务器的测试。

不想说话的树专栏 1829

【无标题】一文说清:大模型AI Agent在企业应用中的6种基础类型

只是这里的私有知识上下文需要借助嵌入模型(Embedding Model)、向量数据库(Vector Store)、文档加载分割(Document Loader&Splitter)等相关技术来获得。知识助手的技术实现基础架构如下:

qkh1234567的博客 500

【AHE数据集】中国2019年多源热排放数据集-500m空间分辨率

【AHE数据集】中国2019年多源热排放数据集

WW、forever的博客 411
上一篇: 实用至上:智能体/Agent 是什么
下一篇: 超干货!如何设计基于Agent的AI应用系统
AI_小站
博客等级 码龄3年 6255粉丝 1152原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值