传统 SOA 为何失败
我们把 AI 对网络架构日益增长的影响称为 SOA 2.0。要理解 SOA 2.0 与 SOA 1.0 的不同,需回顾 21 世纪初的经历。SOA 最初设想美好,不同业务服务如库存管理、计费、运输等能自动发现彼此,了解对方能力,无需人工干预编排复杂任务。为此构建了复杂体系,有用于消息传递的 SOAP(简单对象访问协议)、定义契约的 WSDL(Web 服务描述语言)以及用于服务发现的 UDDI 注册表,核心是企业服务总线(ESB)这一庞大中间件,本应优雅、无缝地路由所有信息,且这一切基于 XML。搞懂基础设施后,可能已忘了最初要做什么,它失败了,因为过于笨重。创建“新建项目”端点这样简单的事,就得面对一堆严格定义。计算机要求绝对确定性,若 SOAP 信封少一个 XML 标签,或某个服务更新 WSDL 而所有客户端没重新生成存根,数百万美元的流程就会崩溃。一些人在容器化微服务(如 Kubernetes)中也遇到类似问题,确定问题在网络中的起源很棘手。传统 SOA 像纸牌屋,太过脆弱,无法在互联网复杂现实中存活。如今典型的 JSON API 是对 SOA 的反应(可能过度反应),我们为了相对简单的 REST 放弃了 SOA,放弃自主服务编排梦想,采用手动集成方式。
全新的意图执行中间件
应用级架构正发生巨大变化。应用服务配置文件中 AI 端点的影响,不仅带来新功能,还改变了其他服务之间的协作方式。总体效果就像应用程序对自身及其能力有了更深入理解,这与 WSDL 原本目标类似。但现在不再是硬编码描述符,无需手动同步可用信息和描述信息,而是有了能接受动态生成描述符的层,它能将模糊用户意图与描述符结合,产生有意义行动。可以引入 AI 端点,在用户目标与各种严格可用功能间架起桥梁,这些功能可能存在于应用程序后端、前端或其他服务层。关键是有灵活的 AI 层,减少了服务之间硬编码链接需求。传统 SOA 中,契约是严格、不容更改的 WSDL 文档;现代常见实践中,契约是强耦合的 RESTful 端点;而在 SOA 2.0 中,因大语言模型(LLM)的自然语言处理能力,契约有了前所未有的灵活性。当用户或系统表达意图,如“为计费服务配置一个新的测试环境”时,AI 中间件不会找硬编码的点对点集成,而是消化意图,进行语义路由,查询注册表并选择合适工具。这个注册表可能不是笨重的 UDDI,而是包含可用内部 API 端点的向量数据库,或者是一组可用函数。具备函数调用能力的现代 LLM 成为终极动态编排器,它们读取目标 REST API 的 JSON 模式,理解其参数,将用户模糊、无结构的意图动态映射为格式完美的 JSON 有效负载。若某个字段缺失,LLM 可从上下文中推断,或暂停执行向用户询问澄清信息。SOA 1.0 的脆弱性被缓冲器取代,若目标 API 将参数名从 customerID 改为 clientId,AI 中间件可读取更新后的模式,实时调整映射,无需重新编译客户端代码,也无需重新生成存根,数百万美元的流程得以继续运行。
软件变得智能
这些并非抽象概念。最近使用一款主流服务(不透露名称)报税时,遇到新的加密货币法规等麻烦问题。与辅助的 AI 聊天机器人相比,这款软件显得笨拙。希望能直接告诉软件想做的事,如“结转去年的净营业亏损!”或“我不知道是否需要附表 K,你告诉我!”不需要另一个聊天机器人,希望应用程序能与理解该应用、了解自身在应用中当前情况的 AI 服务深度集成,能根据其他使用过相同工具的人的经验,在意图层面满足需求。从各方面看,这种有针对性、智能化的意图提升,将是软件开发的下一阶段,且规模会非常大。
延迟、不确定性及其他挑战
我们正用传统 SOA 的确定性脆弱性,换取 SOA 2.0 的概率性模糊性,用户对这种转变的需求会越来越强烈,但也带来新的权衡。首先是延迟问题,旧的企业服务总线配置繁琐,但运行时消息只是路由的 XML。在应用程序关键路径中引入 LLM,会增加数百毫秒甚至数秒的延迟。对于异步任务或复杂编排来说,这是可接受的权衡;但对于实时、高吞吐量的微服务来说,这是致命问题。其次是不确定性问题,几十年来,我们训练自己和系统,期望给定输入 A,系统总是产生输出 B,这种确定性是底线信念。但意图层并非如此,LLM 可能 99 次完美路由请求,但第 100 次可能凭空捏造参数,或根据用户措辞细微变化选择完全不同的执行路径。另一个问题是非功能性需求(NFRs),如安全性和可靠性等附带问题不容忽视。模型的功能调用(或“函数传递”)能力会放大安全担忧,若将用户需求与 AI 能力匹配,让 AI 做决策,除非设置防护措施,否则很冒险。这些防护措施必须超越典型网络安全(确保重要函数调用在服务器端强化,不在客户端暴露),并被 AI 内化,或从 AI 外部一层强制实施,有多种方法,功能和复杂度各不相同。我们会继续使用标准实践(如基于角色的访问控制(RBAC)和单点登录(SSO))实施身份验证,也会实施标准授权技术(如 OAuth 和 JSON Web Token(JWT)),但会在意图层及其能力背景下应用这些技术。可靠性也是挑战,如最近使用谷歌的 Imagen API 时,原本运行良好,但突然有些图像无法生成,客户端和服务器日志无错误信息,但网络出现 500 错误。深入检查发现,提示信息(在应用上下文和用户内容之间)发生变化,包含了 Imagen API 规则认为危险的内容,并非明显标记的提示信息,只是普通创意写作。这些都是使用 LLM API 可能遇到的意外情况,值得思考对整个软件会产生哪些意想不到的影响。
概率性网络的曙光
自互联网诞生以来,其不可预测的概率性主要源于使用它的人类(以及背景辐射导致晶体管翻转、网络故障、地缘政治影响等)。但 AI 介导的 API 引入了有意的、语义可控的概率形式。作为开发者,自然会探索出使消费 AI 端点更有效的技术,如结构化响应和函数调用等实践。但更重要的问题是,软件的本质会发生怎样的变化?在二进制状态、严格协议和固定 URI 的世界里,向特定端点发送 GET 请求,期望得到精确、可预测的响应。过去 40 年,我们将网络视为极其复杂的状态机。但随着 LLM 介导的 API 将随机性融入架构,互联网的本质开始变化。通过将 AI 注入路由和发现层,在网络基础中引入大量概率因素。当请求不再是硬编码的 URI 调用,而是由 LLM 解析的自然语言意图时,节点 A 和节点 B 之间的连接不再是固定的线,而是加权概率。本质上,我们正在重塑互联网,使其与部署的 AI 模型架构相匹配。就像神经网络依赖突触的概率性激发,而非确定性的 if/then 语句一样,下一代网络将依赖灵活的语义发现。服务之间不再只是简单“链接”,而是会根据它们在共享潜在空间中能力的概念接近程度相互吸引。这改变了软件工程的特性,我们失去了控制一切的幻觉。奇怪的是,使用明确的概率组件进行工程设计,可能会使系统更具弹性。关于软件开发的最佳隐喻一直有争论,长期以来,建造建筑物或车辆的机械原理是恰当类比,但如今,园艺或培育的隐喻似乎更贴切。尽管在架构中引入 AI 带来诸多挑战,但我们终于回到了 21 世纪初最初的承诺。这次,希望我们能拥有合适的工具。我们曾试图用严格的逻辑和确定性的 XML 构建自主服务发现机制,但它因自身重量而崩溃。现在,我们正用能理解集成背后“意图”的神经网络来构建它。我们仍在构建中间件,但不再是企业服务总线,而是企业推理总线。手动为每个微服务之间的集成进行硬编码的时代可能即将结束。



被折叠的 条评论
为什么被折叠?



