从 App + Database 到 Agent + Context:下一代企业 AI Infra 的架构推演

Agent Runtime 层 commoditization:从 context 管理到事件日志驱动的架构演进 AI agent 运行时(runtime)是支撑多步推理、工具调用与状态管理的基础层,其核心挑战在于上下文窗口的不可靠性与状态持久化的缺失。传统方案依赖 LLM 的 context window 存储历史,导致静默幻觉、调试困难与安全风险;而以 Anthropic Managed Agents 为代表的新型架构,通过‘session-as-event-log’范式,将状态解耦为外部可审计、可重放的结构化事件流,并结合沙盒隔离与凭证代理机制,显著提升可靠性、可观测性与合规性。该设计不仅解决了 context 阅读详情

在确定性软件与概率性智能之间,企业需要一套新的工程体系:既让传统软件继续承担可靠执行,也让 Agent 可以获得上下文、记忆、预算、治理与持续学习。

矩阵起源 MatrixOrigin 技术观察 · 2026.09

核心判断:Agent 把新的认知计算叠加在确定性软件之上。下一代 AI Infrastructure 的任务,是让业务执行、上下文、运行状态与反馈在同一套工程和治理体系中可靠协作。

引子 Agent 如何与传统软件共同演进

过去几十年,企业软件的基本结构非常稳定:应用承载业务逻辑,数据库保存业务状态,API 把系统连接起来。即便从单体走到微服务,从本地机房走到云原生,这个基本契约也没有改变——大多数执行路径在运行前已经由代码确定。

Agent 给软件增加了另一种运行方式。面对一个目标,它可能在执行过程中决定检索什么、调用哪些工具、走几步、什么时候停止,也可能把结果写回系统,并影响下一次运行。行为的一部分从“预先写在代码里”转移到了运行时。[3]

这并不意味着 App、Database、API、事务和 SQL 会退出历史舞台。交易、账务、库存、权限、身份、清结算等核心系统仍然需要高度确定、可审计的软件。更准确的说法是:Agent 把一个新的、带有不确定性的认知计算层叠加到了过去五十年的确定性软件体系之上。

当上层越来越动态,底层的确定性反而更重要。企业真正需要解决的问题,是如何让这两个世界可靠地一起工作。

一 从 App + Database 到 Agent + Context 是抽象层继续上移

软件工程史可以看作一条不断提高抽象层级的曲线。机器指令之上有编程语言,函数之上有对象和服务,服务器之上有云平台。新的抽象通常建立在既有能力之上,并把其中可以复用的部分沉淀为基础设施。

传统企业软件通常围绕功能和服务组织:给定输入,执行由代码约束的业务逻辑。Agent 更接近“能力”的抽象:给定目标、上下文和约束,系统在运行时规划如何完成任务。执行路径可以变化,满足业务要求的结果也未必只有一个。

因此,影响 Agent 行为的状态也比数据库中的业务记录更广。本文所说的“业务上下文”,包括与任务相关的业务事实、语义、规则和访问约束;“推理上下文”则是一次模型调用实际接收的信息,是按任务和权限从可用信息中选取的部分。AI State 的范围更广,还包括任务进度、长期记忆、模型与工具配置,以及用于审计和评估的运行记录。三者相互关联,但并不等同。[4]

同一个模型,在不同企业、不同权限、不同历史和不同业务语义下,会表现出完全不同的能力。模型提供通用推理能力,企业差异化越来越多地沉淀在私有 Context、运行状态和业务执行能力中。

在这里插入图片描述

图 1|从 App + Database 到 Agent + Context:抽象层继续上移,底层确定性基础设施仍然存在。

二 两种计算策略 Token Minimizing 与 Token Maxxing

Agent 时代很容易陷入一个误区:既然模型越来越强,就让模型做更多事情。真正进入企业生产环境后,成本、延迟、稳定性和业务价值会迫使架构师做更细的分工。

第一种策略是 Token Minimizing。能用 SQL、规则、API、缓存或结构化索引可靠解决的事情,没有必要每次都调用昂贵的大模型推理。订单金额计算、权限检查、库存扣减、指标聚合和确定性校验,应由相应的程序与业务系统执行。对于确实需要模型的环节,可以在满足质量要求的前提下使用小模型。目标是在完成任务的同时减少不必要的 Token 消耗、延迟和结果波动。

第二种策略是 Token Maxxing:在收益可以通过评估验证时,为高价值任务追加推理预算。复杂投研、法律分析、代码迁移、战略规划和复杂采购决策中,更好结果的价值可能高于额外计算成本。多轮推理、搜索、验证、模拟和多 Agent 协作都可能有帮助,但更多 Token、更长上下文并不必然带来更好结果;无关信息还可能干扰判断。因此,追加计算应有质量评估、预算上限和停止条件。[3][4]

这两种策略可以出现在同一个任务的不同步骤中。基础设施需要按任务价值与约束选择模型、上下文和推理预算,并持续衡量质量、延迟和成本是否满足目标。AI Infra 需要优化完成任务的整体效果,而不只是 Token 单价或使用量。

在这里插入图片描述

图 2|Token Minimizing 与 Token Maxxing:按任务效果分配计算预算,并设置停止条件。

三 从 1 个 Agent 到 10000 个 Agent 工程问题发生质变

一个 Agent 可以靠几名工程师把数据库、向量库、RAG、工具和日志拼起来。十个 Agent 也可以复制这套做法。到了几百、几千个 Agent,系统面对的就不再是同一个工程问题。

我们用 Trust、Cost、Scale 三个词概括企业 AI 规模化的主要挑战:决策依据能否追溯、运行过程能否审计;数据、模型和算力能否复用;一个成功场景能否低成本复制到更多部门和流程。微软的 2026 Work Trend Index 与 Google Cloud 的基础设施报告也分别讨论了 Agent 规模化带来的组织和基础设施要求。[1][2]

一个 Agent 的 Memory 被错误信息污染,可能影响一次任务;一百个 Agent 共享这段 Memory,影响会扩散。少量 Agent 跨系统拼接 Context 的成本可能可控;当大量 Agent 持续跨系统读写时,数据移动、重复处理、跨系统权限一致性和状态对齐都会成为基础设施问题。

可以把企业 Agent 的演进粗略看成三个阶段:先让一个 Agent 进入一个核心流程;再让 10–100 个 Agent 跨部门复制和协作;进一步面对 1,000–10,000 个 Agent 的统一治理、版本管理和持续优化。这些数字是架构压力测试的假设,并非预测或统一门槛。实际压力还取决于并发量、读写频率、共享状态规模和隔离要求。

四 Agent 时代的开发测试部署运维与迭代

传统软件生命周期通常可以写成 Code → Test → Deploy → Monitor。Agent 系统里,影响行为的对象明显更多:Data、Context、Prompt、Skill、Tool、Memory、Policy、Model、Evaluation Set 和运行环境都可能改变最终结果。

开发从“写代码”扩展为构建上下文、工具和策略;测试在单元测试、集成测试之外,增加任务评估、运行轨迹检查、模拟和策略测试;部署除了发布二进制或容器镜像,还可能切换模型、Prompt、Context 规则、Memory schema 和 Tool。线上调试需要重建关键输入和配置版本,检查 Agent 当时接收了什么信息、调用了哪些工具,以及环境中实际发生了什么变化。[5]

这意味着 Agent 工程需要一种更接近 Branch → Experiment → Evaluate → Merge → Release → Replay / Rollback 的生命周期。生产 Trace 会不断产生新的失败案例,Evaluation Set 也会随业务持续更新。开发和运行之间的边界会比传统软件更模糊。

软件工程的很多成熟原则仍然有效:版本控制、隔离、灰度、回滚、可观测和最小权限。被治理的对象则从代码扩展到影响行为的关键状态及其依赖版本。对无法纳入统一快照的外部系统,需要记录可获得的版本信息、调用输入和返回结果;权限必须在数据访问和工具执行时校验。

在这里插入图片描述

图 3|Agent 工程生命周期:开发、测试、发布和运行阶段需要共同管理行为所依赖的状态。

五 Context 与 AI State 成为新的基础设施对象

企业 AI 真正困难的地方,很少是把一个模型 API 接进来。困难在于让模型理解这个企业是怎么运行的。一个采购 Agent 需要理解供应商、历史价格、品类规则、合同条款、审批权限和当前预算;一个售后 Agent 需要理解客户、产品、工单、服务等级和例外处理。

这些信息分散在 ERP、CRM、MES、文档、邮件、知识库、会议记录、工具调用和人的经验中。把它们变成生产级 Agent 可用的业务上下文,需要处理语义、权限、时效、血缘和版本,并在运行时选取适合当前任务的信息。业务上下文可以视为一层动态的业务运行模型,单次模型调用只接收其中必要且获授权的部分。

长期 Memory、任务进度、Policy、Tool 配置和模型版本也会影响下一步行为。Trace 和 Evaluation 则记录运行结果并支持后续改进。审计一次决策,需要把当时使用的关键输入、配置、可见状态和实际执行结果关联起来,从而回答:Agent 依据什么信息采取了这一步行动?

我们把这种能力称为“受治理的业务上下文”:既让 Agent 获得相关事实,也提供理解这些事实所需的业务含义、适用条件和访问边界。语义检索是其中一种能力,生产系统还需要处理事实的时效、权限和依赖关系。

六 两条 Agent Data Infra 路线 Best of Breed 与 Unified Core

第一条路线是为不同职责选择专业系统。关系数据库负责业务数据,向量检索系统负责语义检索,对象存储保存文档,Memory 使用独立存储,Tool 由注册与发现服务管理,Trace 和 Evaluation 进入观测平台。这是一种常见的组装方式,优势包括组件成熟、可以分别优化、团队职责清晰,以及按需替换组件的灵活性。

问题通常在规模扩大后出现。同一份业务事实可能经过多套处理链路生成索引;权限需要跨系统传递;数据变更与索引更新之间可能存在时间差;一次 Agent 决策对应的数据、上下文、记忆、提示词、策略、工具和模型版本也更难对齐。如果只保留日志而没有记录关键输入、版本和外部返回结果,重放就难以重建当时的决策条件。

第二条路线是让上层继续保留专业接口,同时尽可能统一底层的数据、计算、状态和版本能力。Context 仍有自己的语义和编译过程,Memory 仍然需要生命周期与共享规则,Runtime 仍然处理执行和隔离;只是这些抽象共享更统一的企业状态底座。

这条路线有机会减少跨系统数据搬运和重复处理,并为统一治理、版本管理与重放提供基础。收益来自共同的版本标识、快照机制、权限控制和运行时协作,而不是把数据放进同一个数据库就能自动获得;不同检索方式仍可能需要各自的索引。事务、分析、全文、向量和流式负载的资源特征也不同,统一底座需要工作负载隔离、调度和弹性,并保留开放接口。我们选择统一关键状态与治理,同时保留专业抽象和渐进接入能力。

在这里插入图片描述

图 4|两条 Agent Data Infra 路线:各层独立系统与“专业接口 + 统一底座”。

七 统一数据与计算在跨层和跨 Agent 协作中的价值

以销售 Agent 为例。准备一次客户拜访,可能同时需要 CRM、合同、历史会议纪要、报价记录、产品资料和最近的支持工单。在碎片化架构中,这些数据分别经过 ETL、全文索引、向量化和权限映射,最后再由应用层拼 Context。统一底座的价值不是简单减少数据库数量,而是让结构化查询、全文、向量、事件流和权限尽量靠近同一份业务事实。

再看多 Agent 协作。采购 Agent 发现供应商价格异常,可能触发风险 Agent、合同 Agent 和财务 Agent。四个 Agent 需要共享事实,又不能拥有相同权限;需要围绕同一业务事件协作,又可能采用不同的策略分支。共享状态底座可以更自然地支持“一份事实、多种受治理视图”。

长期 Memory 更能说明问题。Agent Memory 会经历写入、总结、遗忘、共享、隔离、合并和回滚。如果错误事实进入共享 Memory,企业需要知道它从哪里来、影响了哪些 Agent、能否恢复到污染前的版本。到了这个阶段,版本能力已经从开发便利变成系统可靠性机制。

八 从 Git for Data 到 Git for AI State

软件工程能够规模化,很大程度上得益于代码版本管理。Branch、Diff、Merge、Rollback 支持并行开发、变更审查和发布恢复。我们在 MatrixOne 中将类似操作扩展到数据,为数据分支、差异比较、合并和恢复提供数据库原生能力。[6]

Agent 工程进一步要求关联 Data、Context、Memory、Prompt、Skill、Policy、Tool、Model、Trace 和 Evaluation。不同对象不必采用相同的存储方式,但一次运行应能关联它所使用的数据快照、配置版本、模型标识、工具输入输出及评估记录。这些关联让团队能够追溯问题,并在受控环境中比较不同上下文或策略下的结果。

这就是我们所说的从“Git for Data”走向“Git for AI State”。团队可以为上下文和记忆建立实验分支,在检查语义冲突、权限和评估结果后合并经验证的变更。Memoria 将这种版本管理用于长期记忆。[7] 这里需要区分三种能力:恢复保存过的历史状态与运行记录;基于记录重新执行并比较结果;处理业务动作带来的外部影响。重新调用模型不保证输出逐字相同,恢复内部状态也不会自动撤销已经发送的邮件或完成的付款。此类动作需要相应的业务补偿或人工处理。[5][10]

九 FDE 在 Agent 时代的工程职责

软件工业长期通过标准产品和配置复用通用能力,具体业务中的差异仍需要工程人员处理。Agent 进入核心流程后,这项工作会延伸到业务语义和行为评估:系统必须理解企业如何报价、采购、审批、交付、风控,以及那些只存在于实际操作经验中的例外。

与此同时,Agent 本身又是一个概率性系统。企业真实业务强调语义、责任、权限和结果,AI 系统强调数据、工具、模型、Prompt、Evaluation 和持续迭代。两边之间天然需要翻译和桥梁。

这正是 Forward Deployed Engineer(FDE)价值上升的原因。FDE 需要把企业运行方式落实为 Agent 可用的 Context、Tool、Policy 和 Evaluation,并持续验证它们在生产环境中的效果。这项工作需要业务判断、数据能力、软件工程和生产治理经验。

Demo 的输入通常经过人工整理,生产环境却包含历史系统、冲突的定义、隐含规则、权限边界和异常流程。FDE 需要逐步把这些约束转化为可执行、可检验的工程对象,并在上线后持续看 Trace、补 Context、改 Tool、调 Policy、建 Eval。在矩阵起源,我们将这一角色称为 Forward Deployed Builder(FDB),强调对业务结果负责,并将项目中的经验沉淀为可复用的上下文、工具和评估资产。

在这里插入图片描述

图 5|FDE 与矩阵起源的 FDB:连接业务、Agent 工程和生产反馈。

十 MatrixOrigin 的统一底座与专业 Agent 抽象

MatrixOne Intelligence 体现了我们对这一架构方向的实现:AI 服务、数据与上下文、智能体运行、持续学习四类能力相互配合,安全、治理、血缘、审计、基于角色的访问控制(RBAC)和多租户能力贯穿其中。

在这里插入图片描述

图 6|MatrixOne Intelligence 四类能力协同:业务数据进入上下文层,模型服务支持运行时,反馈经验证后用于持续改进。

Genesis 提供模型接入、路由、用量计量和预算控制,为模型与推理预算选择提供基础。[9] MatrixOne 提供统一数据计算、存储和 Git for Data;MatrixPipeline 把业务系统、文档、Web、工具调用和运行轨迹加工成受治理的业务上下文。Astra 负责 Agent 的受控执行、权限、隔离、运行记录与重放,以及多 Agent 编排;Memoria 管理长期记忆、分支、合并、回滚与共享。[7][8] Morpheus 把 Trace、Evaluation 和反馈引入数据、上下文与策略的持续优化,变更经评估验证后再进入发布流程。

我们的设计原则是:让 Agent 的专业抽象继续分层演进,让影响行为的关键企业状态在共同的治理体系下协作。对于已有 ERP、CRM、MES、数据库和文档系统的企业,落地应从具体流程开始,通过开放接入、明确系统边界和逐步扩展共享能力完成演进。

十一 万亿 Agent 的架构思想实验

“万亿 Agent”更适合作为架构思想实验,而不是市场预测。假设未来每个员工、业务对象和软件流程都可以调用多个短期或长期 Agent,那么两类工作负载的重要性可能显著上升。

第一类是大量 Agent 协作。Agent 围绕同一客户、订单、项目或供应链事件临时组成团队,共享获授权的上下文、传递任务,并按规则使用记忆。可治理的共享状态将成为重要的基础设施能力。

第二类是大量 Agent 开发与迭代。企业会同时维护大量 Agent、Prompt、Skill、Policy 和 Evaluation 版本,生产 Trace 持续产生新的失败案例。开发流程越来越接近 Agent DevOps / AI Factory:Branch、Experiment、Evaluate、Merge、Release、Replay、Rollback。

这时真正的问题已经不是“数据库会不会消失”,而是过去围绕单个应用组织的数据库、开发工具和运维体系,要如何演进为同时支撑确定性软件和概率性 Agent 的基础设施。

结语 让两种运行方式可靠协作

App + Database 仍然是企业数字世界的地基。Agent + Context 增加的是一种新的运行范式:执行路径更动态,需要在运行时持续组织数据、语义、权限、记忆、策略和反馈。

下一代基础设施需要在确定性业务执行与动态推理之间建立清晰边界:让适合程序处理的工作可靠执行,让有价值的推理获得合理预算,并记录关键输入、版本和执行结果,以支持测试、评估、审计和恢复。可逆的内部状态可以回滚,外部业务影响则按相应流程补偿或处理。

技术上需要新的基础设施;组织上,也需要一群能够在业务和 AI 之间翻译的人。FDE、Context Engineering、Agent Runtime、版本化 AI State,可能会一起构成下一代企业 AI 的工程体系。

数据库和传统软件会继续演进。随着更多 Agent 参与企业流程,它们仍将承担业务状态、可靠执行和治理等基础职责,并与新的上下文、运行时和评估能力共同构成企业 AI 基础设施。

参考资料

[1] Microsoft. 2026 Work Trend Index Annual Report: Agents, human agency, and the opportunity for every organization. 2026.

[2] Google Cloud. 2026 State of infrastructure in the agentic AI era. 2026.

[3] Anthropic. Building effective agents. 2024-12-19.

[4] Anthropic. Effective context engineering for AI agents. 2025-09-29.

[5] Anthropic. Demystifying evals for AI agents. 2026-01-09.

[6] Gou et al. Version Control System for Data with MatrixOne. arXiv:2604.03927, 2026.

[7] MatrixOrigin. Memoria project documentation.

[8] MatrixOrigin. Astra product architecture.

[9] MatrixOrigin. Genesis documentation.

[10] Microsoft Learn. Compensating Transaction pattern. 2026.

资料访问日期 2026 年 9 月 14 日
nesis.html).

[10] Microsoft Learn. Compensating Transaction pattern. 2026.

资料访问日期 2026 年 9 月 14 日

Agent Runtime 正在成为AI时代的操作系统底座 Agent runtime 是支撑大模型智能体稳定运行的底层执行环境,其核心原理在于将状态管理、工具调用与权限控制从模型上下文解耦,转向事件日志驱动、凭证隔离和无状态执行器架构。这一技术演进显著提升了AI应用的可审计性、可恢复性与生产安全性,为金融、医疗、客服等高合规要求场景提供工程化保障。随着 Anthropic Managed Agents、AWS AgentCore 等主流平台推动 runtime 标准化与托管化,开发者正从重复造轮转向聚焦 Trace Store、Policy Governance 阅读详情

相关推荐

Agent Runtime 层的范式革命:Session-As-Event-Log 与 Sandbox 隔离设计

AI Agent 不再是简单调用大模型的脚本,而是具备生命周期、可审计、可恢复的生产级服务。其核心挑战早已从‘能否生成回答’转向‘如何可靠管理状态、隔离执行、保障安全’——这本质是运行时(runtime)层的系统工程问题。Session-as-event-log 将对话历史升格为不可变事件日志,解耦状态存储与模型推理;sandbox 机制以 cattle 式按需容器实现强隔离,杜绝 credential 泄露与资源争用。二者共同构成现代 Agent 架构的基础设施底座,支撑金融合规审查、跨系统工单路由、科研

weixin_34239592的博客 429

AI Agent Runtime 重构:会话即持久化事件日志

AI Agent 并非简单升级的对话模型,而是具备状态管理、工具调用与自主决策能力的新型软件范式。其核心挑战在于长周期执行中的状态一致性、故障可恢复性与行为可审计性。传统依赖模型上下文维护会话的方式极易导致信息丢失、调试困难与安全失控。Anthropic 提出的 'session as durable event log' 架构,将执行过程解耦为无状态 harness、隔离沙盒与持久化事件日志三层,使 AI 应用真正具备生产级可靠性。该设计直击 runtime 层根本矛盾,为可观测性、合规审计与成本精算提供

cuanmo8775的博客 539

AI Agent Runtime 架构演进:从上下文溢出到事件驱动的会话治理

AI Agent 运行时(Runtime)是大模型应用落地的核心基础设施,其本质是解决 LLM 的不可靠性、上下文限制与状态管理难题。原理上,现代 Runtime 通过三层解耦——事件日志化的 Session 层、无状态的 Harness 执行器、凭证隔离的 Sandbox 沙箱——实现可审计、可恢复、可合规的长周期交互。技术价值在于将隐式崩溃(如 context overflow)转化为显式可控的工程行为,支撑金融、销售等高敏场景稳定运行。典型应用场景包括跨系统自动化工作流、合规敏感的客户交互、需司法存证

weixin_30535843的博客 410

OpenClaw本地部署:AI Agent运行时基础设施实战指南

AI Agent运行时(Agent Runtime)是大模型应用落地的关键中间层,介于LLM推理服务与业务连接器之间,解决可调度、可观测、可扩展等生产级需求。其核心原理在于解耦模型调用、技能执行、状态管理与事件通信四大平面,技术价值体现在对数据主权、合规可控与系统稳定性的保障。典型应用场景包括金融私有化Agent、医疗知识助手、企业微信/飞书智能中枢等需数据不出域的高敏环境。本文聚焦OpenClaw这一高度解耦的开源Agent框架,深入剖析其本地部署中模型服务、技能沙箱、PostgreSQL状态协调与Kaf

weixin_34327761的博客 404

文心5.0原生全模态架构解析:统一自回归如何重塑多模态AI

多模态AI的核心挑战在于模态割裂与对齐成本高企,传统后期融合方案受限于特征尺度失配、时序错位和跨模态推理脆弱性。文心5.0通过统一自回归架构,将文本、图像、音频等全部编码为同构token序列,在共享隐空间中完成端到端表征学习,从根本上消解‘模态鸿沟’。其技术价值不仅体现为跨模态事实一致性验证与鲁棒性提升,更在于大幅降低工程复杂度——无需手动设计对齐模块、验证逻辑或错误回滚机制。典型应用场景覆盖教育课件生成、智能导览Agent、金融风控与医疗合规审核等产业级任务。本文聚焦文心5.0的原生全模态能力与千帆平台协

weixin_30460489的博客 345

Agent Runtime 重构:从上下文依赖到事件驱动的会话管理

AI Agent 运行时(runtime)正经历一场基础设施级变革,核心是从依赖模型上下文窗口的状态存储,转向基于事件日志(event log)的持久化、可审计、可重放的会话管理。这一演进源于长上下文的信息衰减、调试黑箱与安全凭证泄露等工程痛点,其技术本质是将 session 抽象为有序、结构化、服务托管的事件流,并通过无状态 harness 与隔离 sandbox 实现弹性、可靠与零信任执行。它不改变 LLM 推理能力,却彻底重塑了 agent 的可观测性、合规性与生产就绪度,成为企业落地销售、客服、财务

FLY_THINK2012的博客 389

Agent Runtime 层的消亡与重生:从上下文牢笼到事件溯源架构

Agent 系统的本质挑战并非模型能力,而是状态管理的工程极限——当上下文窗口成为不可靠的记忆载体,系统便陷入静默崩溃。这引向一个基础技术命题:如何构建可回溯、可恢复、可审计的 agent 执行环境?其核心原理在于将‘会话’从 transient context 解耦为持久化事件流(event log),辅以无状态执行器(harness)与隔离式沙箱(sandbox),形成类操作系统的 runtime 基础设施。该架构显著提升 AI 应用的稳定性、安全性和可观测性,支撑金融风控、医疗推理、供应链协同等高可靠

weixin_34357436的博客 503

Agent Runtime 三层解耦:Session事件日志、无状态Harness与隔离Sandbox

Agent Runtime 是大模型应用落地的核心基础设施层,其本质是为LLM驱动的自动化工作流提供可观察、可重现、可审计的执行环境。它基于事件驱动架构,将会话(Session)从模型上下文解耦为持久化、带因果链的结构化事件流;Harness作为无状态执行器专注工具调用的确定性转发;Sandbox则通过微虚拟机实现单次调用级的硬件隔离与凭证零暴露。这一设计直击生产环境中context overflow、状态丢失、凭证泄露与不可追溯等高频痛点,显著提升agent在报销审批、合同比对、安全告警等关键业务中的可信

anheku1562的博客 512

【 ‌infrastructure】【数据中心】【AI infra】第十篇 智能计算数据中心解决方案集成测试和交付知识体系1005

路由协议需要同时处理动态拓扑(LEO)和静态拓扑(GEO),BGP 的收敛速度无法跟上 LEO 切换(秒级),而 OSPF 的 LSDB 更新过于频繁。mode 4(LACP)需要交换机支持,mode 0(round-robin)可能乱序,mode 2(active-backup)带宽利用率低。使用 DCB(Data Center Bridging)配置 PFC 优先级映射,将 RoCE 流量映射到高优先级(3 或 4),其他流量低优先级。或者使用异步 NVMe-oF,允许命令排队,容忍延迟。

weixin_49199313的博客 83

AI代理Runtime层的OS时刻:Session作为事件日志的工程革命

AI代理已从‘能否运行’迈入‘能否稳态运维’阶段,核心瓶颈在于将易失、昂贵、不可靠的模型上下文误作状态存储。Session作为结构化事件日志,本质是借鉴数据库WAL思想,实现状态持久化、可审计与可回溯;Harness无状态执行器与Sandbox硬件级隔离共同构成分层runtime架构,显著提升可观测性、安全性和MTTR。该范式正推动AI工程化向可测量、可交付、可合规演进,成为生产级智能体落地的基础设施底座。

chuiqi9947的博客 631

Grok Build:面向工程上下文的AI CLI代理架构

工程上下文是软件开发中沉淀的结构化与非结构化信息集合,涵盖代码、配置、Git历史、CI日志、环境变量等多源动态数据。传统AI编码CLI受限于单文件窗口和静态快照,无法建模真实项目中的跨文件依赖、隐式元数据和实时状态,导致生成方案在CI中频繁失效。Grok Build通过分层代理机制(采集器+子代理协调器+轻量推理引擎)实现上下文可感知、可验证、可调度,将AI从‘写代码助手’升级为‘管项目的工程代理’。其核心价值在于提升调试归因准确率、保障CI/CD稳定性,并支持私有工具链插件化集成,适用于中小团队TL、独立

weixin_30800807的博客 314

AI工程四支柱:可复现性、可观测性、可维护性与可扩展性

在机器学习落地实践中,模型效果只是起点,真正决定AI系统能否稳定服役的是底层工程能力。可复现性确保实验结果跨环境一致,避免‘本地能跑、线上崩塌’;可观测性通过指标、日志与链路追踪,让模型行为透明可诊断;可维护性依托接口契约与领域隔离,降低协作与迭代的认知负荷;可扩展性则聚焦无状态设计与批处理机制,支撑业务流量线性增长。这四大能力共同构成MLOps落地的基础设施底座,是连接算法研究与生产系统的必经桥梁,也是当前AI工程师从‘调参者’进阶为‘系统构建者’的核心分水岭。

weixin_30363509的博客 343

Claude Managed Agents:会话即事件日志的AI运行时重构

AI代理(Agent)运行时正从模型上下文缓存转向确定性基础设施——核心在于将‘会话’解耦为可审计、可重放、可隔离的结构化事件流。这一范式迁移源于LLM上下文窗口的本质局限:它并非持久化存储,而是计算缓存;当会话变长、工具调用增多,状态混淆与静默错误必然发生。通过‘会话即事件日志’实现状态外置,配合无状态执行器与内核级沙箱隔离,系统获得可追溯性、弹性扩缩容与物理级凭证安全。该架构已广泛应用于金融风控、保险理赔等强合规场景,并正加速向Trace Store、Policy Engine等上层价值层演进。

weixin_30336061的博客 591

Grok与Codex架构对比:符号推理vs工程意图解构

AI编程模型的核心差异不在参数规模,而在于对代码本质的理解范式:Grok将代码视为可计算的符号系统,依托AST构建与形式化语言联合建模,实现高精度数学、SQL及算法推理;Codex则以工程知识图谱为基底,通过语义锚定、影响域推演、动作模板匹配与一致性校验四层机制,完成跨文件、跨服务、跨技术栈的结构化变更。这种底层架构分野直接决定其在Agent规划、安全加固、微服务重构等真实交付场景中的可用性与鲁棒性。本文基于金融风控平台87微服务实测,解析Grok的符号级推理优势与Codex的工程化封装能力,为技术选型提供

weixin_33787529的博客 466

AKS+Lab+Copilot六智能体协同实现AgenticOps工程实践

AgenticOps 是 DevOps 范式演进的关键方向,其核心在于将语义理解、跨系统状态感知与自动化执行能力融合,构建可审计、可回滚的智能体协同流水线。它依托 Kubernetes 环境主权保障上下文一致性,通过工程化抽象层(如 Lab)统一管理基础设施状态、工具链与权限边界,再结合 GitHub Copilot 等编码智能体的提示工程与运行时编排,实现从需求意图到可验证变更的分钟级闭环。该模式显著提升 Terraform 模板生成准确率、IaC drift 检测覆盖率与日志根因定位效率,已在 AKS

weixin_33728708的博客 409

大模型推理状态层归零:Anthropic Orion引擎的范式革命

在大语言模型应用架构中,中间状态持久化层(如Redis缓存、状态数据库)曾是支撑多轮对话、RAG和Agent系统的核心基础设施,其设计源于对人类工作记忆的工程模拟。但该层天然存在冗余存储、计算-存储割裂及状态腐化等结构性缺陷,导致延迟高、同步难、运维重。Anthropic推出的Orion推理引擎通过token级状态蒸馏、流式上下文重编织与确定性状态再生三大机制,实现‘状态即计算’的范式跃迁——中间状态不再被显式保存,而是在毫秒级生成过程中动态评估、瞬时坍缩、按需再生。这一变革使传统状态层技术价值趋近于零,显

weixin_34087307的博客 498

Kubernetes为何让开发者‘坠入爱河’?揭秘声明式部署的确定性魅力

Kubernetes本质上是一种声明式基础设施语言,它通过YAML定义应用的期望状态(desired state),由控制平面持续协调实际状态与目标一致,从而实现跨环境的一致性、自愈能力与部署确定性。这种‘所写即所守’的工程范式,显著缓解了DevOps中长期存在的环境漂移、配置不一致和人机协作模糊等问题。结合Kustomize、Kind、Telepresence等开发者友好工具链,Kubernetes已从运维专属平台演进为提升全栈开发体验的核心支撑——尤其在本地快速启动、混合开发调试与多环境标准化部署三大高

dfu65065的博客 498

GLM-5 Pro:面向系统治理的智能体工程实践指南

智能体工程(Agentic Engineering)是AI从代码生成迈向系统级协作的关键范式,其核心在于任务原子化拆解、自我反思式调试与工程约束闭环。区别于传统Copilot类工具,它要求模型理解基础设施选型、可观测性设计、技术债演化等真实工程语境。GLM-5 Pro通过Slime强化学习框架、DeepSeek稀疏注意力与MCP-Atlas工具契约协议,在国产算力(如昇腾910B)上实现低延迟长上下文与高可信决策能力,支撑监控系统构建、遗留系统重构、技术选型评估等典型场景。本文聚焦其在真实研发流程中的系统治

weixin_33843409的博客 376
上一篇: 从中国出发,走向全球:MatrixOrigin 入选 2026 谷歌出海创业加速器
下一篇: 矩阵起源邀您参加第五届全球数贸会,共探AI与数字贸易新机遇
MatrixOrigin
博客等级 码龄5年 708粉丝 230原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值