收藏！企业AI应用架构全景图：MCP协议详解与多场景实践指南

最新推荐文章于 2025-11-23 19:13:18 发布

原创最新推荐文章于 2025-11-23 19:13:18 发布 · 348 阅读

CC 4.0 BY-SA版权

文章标签：

#人工智能 #架构 #设计模式 #chatgpt #transformer #spring #大模型

本文详解企业AI应用架构，基于MCP协议连接大模型与外部数据源工具，包含应用网关、AI Agent、MCP网关等核心组件。支持纯编码、低代码或混合开发方式，覆盖接入内部系统、第三方服务和构建新应用等多种场景，同时介绍传统架构及新兴A2A、AG-UI协议，为企业AI应用开发提供全面参考。

首先我们先要明确一个概念，AI应用是一个泛指的概念，而我们传统意义上说的智能体也可以叫做AI应用。

大多数场景下，企业开发AI应用往往面临着这几种情况：需要接入或扩展企业内部已有的各种业务系统，加入AI功能；需要接入一些三方系统或AI应用；从0构建一款AI应用，接入已有的业务数据。而这次给大家展示的AI应用架构，包含了上述场景。下面详细跟大家进行说明：

架构详解：

1、应用网关，主要负责处理用户发过来的请求，流量进入API应用网关之后，网关除了会进行一些传统的鉴权、安全、限流等处理之外，更重要的是要将用户请求，路由到对应的Agent业务。

而现在编写AI Agent可以有多种方式，主流是纯编码或低代码、或二者混合的方式。如果你的业务逻辑简单，包装Dify这种低代码平台进行创建Agent即可；如果想进行精准控制，灵活性和可控性强，一定是编码方式自己写（例如使用LangChain这种框架）。现在大多数场景下，企业用的是低代码平台+编码方式这两种混合的方式，不同业务、不同类型的Agent，选取合适的构建方式。

2、无论用哪种方式实现，AI Agent接收到请求后，发送给MCP网关，目的是先要获取可用的MCP Server信息和MCP Tool的信息。

3、可选操作，因为MCP网关可能维护了很多MCP信息，可以借助于LLM缩小MCP范围，减少Token消耗，所以可以向LLM网关发请求和LLM交互。

4、MCP网关将确定好范围的MCP Server及MCP Tool的信息列表返回给AI Agent。

5、AI Agent将用户的请求信息和从MCP网关处拿到的所有MCP信息通过LLM网关发送给大模型。

6、大模型经过推理后，将根据用户传入的请求信息，返回相关的解决问题的MCP Server和MCP Tool信息。

7、AI Agent拿到了确定的MCP Server和MCP Tool信息后，通过MCP网关对该MCP Tool做请求，返回需要的数据。

实际使用整体的流程上，会重复2～7间的步骤，多次循环。全景图如下：

后续还有一些流程没有讲到，例如通过上面第7步通过多次循环调用获取到各业务数据之后，最后再次通过LLM网关调用大模型，由大模型将信息统一进行处理后返回给终端。

通过MCP调用服务获取数据时，这里特别说明一下，如果是微服务架构，需要将MCP Server注册到注册中心才可以，否则无法发现后面的各业务微服务。

聊了这么久，可能有的小伙伴还不知道MCP是什么，简单补充下知识点：MCP（Model Context Protocol），就是一个开源协议，可以方便大模型用标准化的方式连接到各种外部数据源和工具，否则之前，主要是API访问的方式为主。

至于MCP最后会不会一统天下，成为一个国际的标准现在还不好说，但是现在在业界的认可程度很高，很多厂商纷纷接入。除此之外，还有最近新提出的A2A（Agent to Agent）和AG-UI（Agent to UI）协议。整体来说在AI发展的过程中还是比较混乱的，各种新概念和协议层出不穷，有的只是一时的，有的或许最后就成为一种标准了，但这都不好说，所以为了稳妥起见，再给大家提供下面最传统的不依赖于MCP通信的架构。

这个架构就没什么过多解释的了，也画的比较简单，AI Agent可以直接连接数据源获取数据，也可以通过API的方式获取数据（访问其他服务）。

最后总结一下，无论哪种架构（区别在于是不是用MCP方式去访问），都覆盖了企业常用的几种场景，AI应用在获取数据时，可直接连接数据源获取数据，AI应用接入企业内部各系统获取数据（图中举例的现有业务微服务方式和其他方式）和接入第三方服务。仅供大家可以参考。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】