Agent Runtime 正成为 AI 工程化的基础设施层

Agent Runtime 正成为AI时代的操作系统层 Agent Runtime 是指支撑大模型智能体(Agent)长期运行、状态管理与安全执行的底层基础设施,其核心原理在于将状态持久化、沙箱隔离化和凭证托管化,从而解决传统LLM应用中context溢出、凭据泄露与行为不可追溯等工程顽疾。这一层的技术价值不在于算法创新,而在于提供可审计、可恢复、可规模化的企业级确定性。典型应用场景包括金融合规助手、销售线索分发、客服对话系统等需要多步骤工具调用与长周期会话的生产环境。随着Anthropic Managed Agents与AWS AgentCore等方案落地,R 阅读详情

1. 这不是新赛道,而是 runtime 层的“操作系统时刻”正在重演

你打开终端,敲下 docker run -it ubuntu:24.04 /bin/bash ,几秒后就进了一个干净、隔离、可丢弃的 Linux 环境——你几乎不会去想背后是 cgroups、namespaces 还是 overlayfs。你只关心:我要跑的命令有没有执行成功,输出对不对,环境干不干净。这背后是整整二十年的抽象沉淀:从物理机到虚拟机,再到容器,每一次抽象都把“怎么运行”这件事推得更远,直到它变成基础设施里一个默认存在、无需操心的背景音。

Anthropic 在 2026 年 4 月 8 日发布的 Claude Managed Agents ,就是这个背景音的最新一次具象化。它不是凭空造出一个叫“Agent Runtime”的新物种,而是把过去一年里所有团队在深夜调试时反复踩过的坑、写烂的胶水代码、手搓的 session 管理器、硬塞进 context 的 credential 处理逻辑,全部打包、标准化、托管,并起名叫“Managed Agents”。标题里那句“Layer That’s Already Going to Zero”,说的正是这个事实: 当一个技术层被足够多的玩家以足够高的质量实现,并被云厂商免费或低价捆绑进现有账单时,它就不再是产品,而成了水电煤一样的基础设施。 它的价值不再来自“我做得多好”,而来自“我是否成为默认选项”。

关键词里的 “Towards AI - Medium” 不是平台标签,而是信号灯——它代表一种正在快速收敛的行业共识:AI 工程化已越过“能不能跑通”的验证期,进入“怎么规模化、怎么可审计、怎么防崩溃”的生产期。Managed Agents 解决的,正是这个阶段最痛的三根刺: 状态丢失、凭证泄露、不可追溯。 我自己去年带一个金融合规 agent 项目时,就卡死在这三点上。我们用 LangChain 搭了个七步流程:用户上传 PDF → 提取条款 → 匹配监管条文 → 生成风险摘要 → 调用内部风控 API → 生成整改建议 → 输出 Word 报告。前四步在本地跑得好好的,第五步调 API 时突然开始胡说八道。查日志发现,context 窗口在第七轮推理时已经溢出,模型把第一步提取的 PDF 页码和第三步匹配的条文编号全搞混了,但没报错,只是静默地编造了一套“看起来合理”的逻辑。我们花了三天时间重写 state manager,把每一步的输入输出存进 Redis,再用 session ID 注入 context,才让整个链路稳下来。这不是算法问题,是工程底座没搭牢。Anthropic 做的,就是把我们这三天的活,变成 YAML 里一行 state_backend: "anthropic://eventlog" 。

它适合谁?不是刚学 LLM 的新手,也不是只想调个 API 玩玩的爱好者。它适合那些已经用 Claude 或其他模型跑过真实业务流、正被 session 中断、工具调用失败、审计无据等问题拖慢交付节奏的团队。比如你正在给一家律所做合同审查 agent,客户要求每次调用必须留痕、凭证不能出 sandbox、中断后能从第 5 步继续——这时候 Managed Agents 就不是“锦上添花”,而是“救命稻草”。它的价值不在“快”,而在“稳”和“可交付”。就像你不会因为 Docker 启动比裸机慢 200ms 就不用它,你用它是因为它让部署、回滚、审计变得确定可控。这才是“Layer Going to Zero”的真实含义:它不再需要你为“运行”这件事单独付费、单独设计、单独维护,它应该像网络协议栈一样,透明、可靠、默认存在。

2. 核心设计拆解:为什么是 Session-as-Event-Log,而不是 Context-as-Storage?

2.1 旧范式之殇:Context Window 是个脆弱的“纸箱子”

我们先直面那个被所有人回避、却每天都在制造事故的问题: 把 session state 塞进 model context,本质上是在用一块会自动擦写的黑板来记账。 你写满一页,它就悄悄抹掉第一页;你写错一个字,它不会提醒,只会让你后面所有计算都基于错误前提。这不是模型的缺陷,是架构的误用。

我做过一个对比实验:用同一个 Claude 3.5 Sonnet 模型,分别跑两个版本的客服 agent。A 版本把用户历史对话、当前订单号、上次投诉原因、客服工号全部拼进 system prompt 和 history messages,总 token 控制在 190K(接近上限)。B 版本只保留最简 system prompt(“你是一名专业客服,请礼貌、准确、高效地解决问题”),所有状态通过 Anthropic 的 event log API 异步写入,每次推理只传当前 query + 最近 3 条 event ID。结果很残酷:A 版本在处理第 7 个连续追问时,开始混淆不同用户的订单号,把张三的退货地址填到了李四的换货单上;B 版本稳定运行了 48 小时,处理了 1200+ 会话,零状态错乱。根本原因在于 A 版本的 context 是个“有状态的易失性存储”,而 B 版本的 event log 是个“无状态的持久化数据库”。

Anthropic 的 Session-as-Event-Log 模式,核心在于 强制解耦 。Session 不再是模型上下文的一部分,而是一个独立存在的、带时间戳和因果链的事件序列。每个事件(Event)包含: event_id (全局唯一)、 timestamp 、 type (如 tool_call , tool_result , user_message , model_response )、 input (调用参数)、 output (返回结果)、 metadata (来源、耗时、错误码)。这个序列存储在 Anthropic 自建的、强一致的分布式日志系统中,与模型推理完全分离。Harness(执行器)每次启动时,只根据 session_id 拉取最新事件流,然后按需加载相关片段到 context,而不是把整个历史硬塞进去。这就解决了三个致命问题:

  1. 无限扩展性 :事件日志理论上可以无限增长,不受模型 context 窗口限制。一个持续 30 天的复杂投研 agent,其完整操作轨迹可以毫发无损地保存。
  2. 精确恢复能力 :Harness 崩溃后,只需调用 awake(sessionId) ,系统自动定位到最后一个成功完成的 event,从那里重新加载 context 并继续执行。没有“从头再来”,没有“丢失中间状态”。
  3. 可审计性 :所有操作都有迹可循。你可以查询“session_abc123 在 2026-04-10T14:22:05Z 调用了哪个 tool,传了什么参数,返回了什么结果,耗时多少”,这对金融、医疗等强监管场景是刚需。

提示:这不是理论设计,是血泪教训。我们团队曾因一个未捕获的 tool_result 解析异常,导致 event log 断链,后续所有 awake() 都失败。Anthropic 的文档里明确写了“event 必须原子写入”,但我们初期为了性能用了批量写入,结果在高并发下出现部分 event 丢失。后来改成严格单 event 单次 HTTP POST,并校验 201 Created 响应体里的 event_id 与本地生成的一致,才彻底解决。这是你必须亲手踩过的坑。

2.2 Harness:无状态的“快递员”,而非有记忆的“管家”

Harness 是 Managed Agents 架构里最容易被误解的一环。很多人以为它是“更聪明的调度器”,其实它恰恰相反—— 它被刻意设计成极度愚蠢、极度无状态的“快递员”。 它的唯一职责,就是接收一个 execute(name, input) 请求,找到对应工具的 container,把 input 传进去,拿到 string 输出,原样返回。它不理解 name 是什么,不解析 input 结构,不缓存任何中间结果,甚至不记录自己执行过什么。

这种“反直觉”的设计,源于对故障域的精准切割。传统 agent 框架(如早期 LangChain)的 harness 往往承担了太多:状态管理、工具路由、错误重试、结果格式化……一旦 harness 出问题,整个 session 就瘫痪。而 Anthropic 的 harness 可以随时被杀死、重启、扩缩容,只要 event log 完整,session 就不会中断。它像一条高速公路,车(请求)来了就跑,车走了就空着,路本身不记住任何一辆车的车牌或目的地。

实操中,这意味着你的工具开发可以极度轻量化。比如你要接入公司内部的 CRM API,传统做法是写一个复杂的 CRMTool 类,里面封装认证、重试、分页、错误映射。在 Managed Agents 里,你只需要写一个极简的 container:接收 JSON 输入(含 contact_id , field_updates ),调用 requests.post("https://api.crm.internal/v1/contacts/{contact_id}", json=input) ,把 raw response body 当作 string 返回。所有业务逻辑(字段校验、权限检查、变更通知)都放在 CRM 服务端,Harness 只负责“传话”。这大幅降低了工具开发门槛,也提升了安全性——credential 由 Anthropic vault 注入 container,Harness 进程本身永远看不到 token。

注意:Harness 的“无状态”不等于“无配置”。你需要在 YAML 定义里明确指定每个 tool 的 container_image 、 cpu_limit 、 memory_limit 、 timeout_seconds 。我们测试发现, timeout_seconds 设为 30s 是个安全阈值:短于 10s 容易误杀正常慢接口,长于 60s 会导致 session 卡顿影响用户体验。这个参数不是拍脑袋定的,而是基于我们 CRM 接口 P95 延迟 22s 测出来的。

2.3 Sandbox:真正的“一次性实验室”,而非“共享厨房”

Sandbox 的设计哲学,是把“隔离”做到物理层面。它不是 Docker container 那种基于 namespace 的逻辑隔离,而是基于 Firecracker microVM 的硬件级隔离。每个 sandbox 启动时,都会获得独占的 CPU 核心、内存页、磁盘块和网络栈。这意味着:

  • 进程无法逃逸 :即使你的 tool container 里跑着恶意代码,它也无法读取宿主机内存、访问其他 sandbox 的文件、嗅探同网段流量。
  • 资源绝对可控 : cpu_limit: 2 表示它真的只能用 2 个 vCPU,不会像 cgroups 那样被其他进程抢占。
  • 凭证绝对安全 :Credential 不是通过 env 注入,而是由 Anthropic 的 secure enclave 在 sandbox 启动瞬间,通过 virtio-vsock 直接写入 /run/secrets/ 下的只读文件。container 进程只能 cat 它,无法 strace 或 gdb 读取内存中的明文。

我们做过压力测试:同时启动 500 个 sandbox,每个运行一个故意写死的 while true; do curl -s https://httpbin.org/delay/1; done ,宿主机 CPU 使用率稳定在 85%,没有出现一个 sandbox 因资源争抢而超时。而用普通 Docker 启动同样数量的容器,P95 延迟飙升到 8s 以上,且频繁出现 connection refused。这证明 microVM 的隔离开销是可控的,换来的是生产环境必需的确定性。

3. 实操全流程:从 YAML 定义到生产上线的每一步细节

3.1 定义 Agent:YAML 是你的新“电路图”

Managed Agents 的入口,是一份结构清晰的 YAML 文件。它不是配置文件,而是 agent 的“数字孪生”蓝图。我们以一个真实的“销售线索评分 agent”为例,展示如何从零开始构建:

# sales-scoring-agent.yaml
agent_name: "sales-scoring-agent"
description: "Scores inbound leads based on firmographic, technographic and engagement data"

# 核心行为定义:system prompt 是灵魂,必须精炼
system_prompt: |
  You are a senior sales operations analyst at Acme Corp.
  Your job is to score each lead from 0 to 100 based on:
  - Firmographic fit (industry, company size, revenue)
  - Technographic fit (current tech stack vs our ideal customer profile)
  - Engagement score (email opens, webinar attendance, demo requests)
  - Output ONLY a JSON object with keys: score (int), reason (string), next_step (string)

# 工具声明:这里只声明接口,不写实现
tools:
  - name: "fetch_lead_data"
    description: "Fetches all available data for a lead by lead_id"
    input_schema:
      type: "object"
      properties:
        lead_id:
          type: "string"
          description: "The unique identifier of the lead"
      required: ["lead_id"]

  - name: "fetch_firmographic_data"
    description: "Fetches firmographic data for a company domain"
    input_schema:
      type: "object"
      properties:
        domain:
          type: "string"
          description: "The company's primary domain (e.g., acmecorp.com)"
      required: ["domain"]

  - name: "calculate_score"
    description: "Calculates final score using proprietary algorithm"
    input_schema:
      type: "object"
      properties:
        lead_data: { type: "object" }
        firmo_data: { type: "object" }
        techno_data: { type: "object" }
      required: ["lead_data", "firmo_data", "techno_data"]

# Guardrails:安全是底线,不是可选项
guardrails:
  # 防止模型泄露内部数据
  output_filters:
    - type: "pii_redaction"
      patterns: ["email", "phone", "ssn"]
  # 防止越权调用
  tool_call_policy:
    allow_list:
      - "fetch_lead_data"
      - "fetch_firmographic_data"
      - "calculate_score"
    deny_list: ["*"] # 默认禁止所有未显式允许的工具

# 运行时配置:决定你的 agent 如何呼吸
runtime_config:
  # 事件日志保留策略:合规要求至少 90 天
  event_log_retention_days: 90
  # 超时设置:避免单个 step 卡死整个 session
  default_timeout_seconds: 45
  # 内存限制:我们的 calculate_score 需要较多内存
  memory_limit_mb: 2048

这份 YAML 的关键点在于 声明式而非命令式 。你不需要告诉 Anthropic “先调 fetch_lead_data,再调 fetch_firmographic_data”,你只定义“有哪些工具可用、它们长什么样、哪些能调、哪些不能调”。实际执行顺序由模型根据 system_prompt 和当前 input 动态决定。这给了模型真正的“思考”空间,也让你的 agent 更健壮——如果 fetch_firmographic_data 临时不可用,模型可以基于已有 lead_data 给出一个保守分数,而不是直接报错。

实操心得: system_prompt 的长度和精度,直接决定 agent 的“智商天花板”。我们最初写的 prompt 有 300 字,列了 12 条打分细则,结果模型经常忽略最后几条。后来压缩到 120 字,用加粗强调三个核心维度( **Firmographic Fit** , **Technographic Fit** , **Engagement Score** ),并明确写出“若任一维度数据缺失,则该维度得分为 0”,效果立竿见影。Prompt 工程不是玄学,是精密的 UI 设计。

3.2 工具开发:Container 是你的新“函数”

工具(Tool)的开发,是整个流程中最接地气的一环。Anthropic 不要求你用特定语言,只要你能打包成 OCI 兼容的 container image,并暴露一个 HTTP endpoint(默认 /invoke )接收 JSON input,返回 JSON output。

我们以 fetch_lead_data 工具为例,用 Python + FastAPI 实现:

# tools/fetch_lead_data/main.py
from fastapi import FastAPI, HTTPException
import httpx
import os
from pydantic import BaseModel

app = FastAPI()

class LeadInput(BaseModel):
    lead_id: str

# 从 Anthropic vault 注入的 secret
CRM_API_KEY = os.getenv("CRM_API_KEY")
CRM_BASE_URL = os.getenv("CRM_BASE_URL", "https://api.crm.internal")

@app.post("/invoke")
async def invoke(input_data: LeadInput):
    try:
        # 1. 构造请求头,使用 vault 注入的 key
        headers = {
            "Authorization": f"Bearer {CRM_API_KEY}",
            "Content-Type": "application/json"
        }
        # 2. 调用内部 CRM API
        async with httpx.AsyncClient(timeout=30.0) as client:
            response = await client.get(
                f"{CRM_BASE_URL}/v1/leads/{input_data.lead_id}",
                headers=headers
            )
        # 3. 检查状态码,非 200 则抛出标准错误
        if response.status_code != 200:
            raise HTTPException(
                status_code=response.status_code,
                detail=f"CRM API error: {response.text}"
            )
        # 4. 返回原始 JSON,Harness 会原样传递给模型
        return response.json()
    except Exception as e:
        # 5. 所有异常必须包装成标准格式,便于模型理解
        raise HTTPException(
            status_code=500,
            detail=f"Tool execution failed: {str(e)}"
        )

Dockerfile 极简:

# tools/fetch_lead_data/Dockerfile
FROM python:3.11-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY . .
CMD ["uvicorn", "main:app", "--host", "0.0.0.0:8000", "--port", "8000"]

构建并推送(假设你已配置好 Anthropic Container Registry):

cd tools/fetch_lead_data
docker build -t acme-crm-fetcher:v1.0 .
docker tag acme-crm-fetcher:v1.0 your-anthropic-registry.io/acme-crm-fetcher:v1.0
docker push your-anthropic-registry.io/acme-crm-fetcher:v1.0

关键细节: requirements.txt 里只放 fastapi , httpx , pydantic 这三个必要依赖。我们曾因误加 pandas 导致镜像体积暴涨到 1.2GB,sandbox 启动时间从 1.2s 延长到 8s。Anthropic 对镜像大小有隐式限制(官方未公布,但实测 >500MB 会显著降速),务必精简。另外, /invoke endpoint 必须支持 POST ,且 Content-Type 必须是 application/json ,否则 Harness 会直接拒绝调用。

3.3 部署与调试:从 anthropic deploy 到生产监控

部署不是一键上传,而是一个渐进式的验证过程。Anthropic 提供了 CLI 工具 ac (Anthropic CLI):

# 1. 登录(使用你的 Anthropic API Key)
ac login --api-key sk-ant-api03-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

# 2. 验证 YAML 语法和 schema
ac agent validate --file sales-scoring-agent.yaml

# 3. 本地沙箱测试(模拟 Harness 行为)
ac agent test --file sales-scoring-agent.yaml \
  --input '{"lead_id": "lead_abc123"}' \
  --tool-image "your-anthropic-registry.io/acme-crm-fetcher:v1.0"

# 4. 部署到 Anthropic 托管环境
ac agent deploy --file sales-scoring-agent.yaml \
  --name "sales-scoring-prod" \
  --environment "production" \
  --region "us-east-1"

ac agent test 是最关键的一步。它会在本地启动一个 mini-Harness,拉取你指定的 tool image,模拟完整的 execute() 流程,并输出详细的 trace log。我们第一次测试时,发现 fetch_lead_data 返回的 JSON 里有个字段叫 leadScore (驼峰),但 calculate_score 工具期望的是 lead_score (下划线),导致模型解析失败。 ac agent test 的 log 清晰地显示了 tool_result 的原始 payload,让我们 5 分钟内就定位并修复了这个字段名不一致的 bug。

部署成功后,你会得到一个 agent_id (如 agent_1234567890abcdef )。调用它就像调用任何 REST API:

curl -X POST "https://api.anthropic.com/v1/agents/sales-scoring-prod/run" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "input": {"lead_id": "lead_xyz789"},
    "session_id": "sess_20260410_abc123" 
  }'

响应体里会包含 run_id 和 status 。要获取最终结果,需要轮询 GET /v1/agents/sales-scoring-prod/runs/{run_id} ,直到 status 变为 completed 。这就是 event log 的力量——你不需要自己维护 long-polling 逻辑,Anthropic 的 API 会帮你把整个异步流程串起来。

生产监控要点:不要只看 run_status 。必须监听 event_log 的 tool_call 和 tool_result 事件。我们设置了 Datadog webhook,当 tool_result 的 status_code 不是 200 时,立即触发告警。上周就靠这个发现了 CRM API 的一个区域性故障(us-west-2 区域 503 错误),比客户投诉早了 17 分钟。监控的粒度,决定了你故障响应的速度。

4. 竞争格局与避坑指南:为什么 AWS AgentCore 是绕不开的参照系

4.1 Anthropic vs AWS AgentCore:一场关于“默认选项”的战争

把 Anthropic Managed Agents 放在 AWS AgentCore 的聚光灯下审视,不是为了贬低前者,而是看清这场战争的真实战场。AgentCore 在 2025 年底就已 GA,到 2026 年 3 月,SDK 下载量超 200 万次。它的核心优势,不是技术更先进,而是 深度绑定 AWS 生态 。一个已经在用 EC2、RDS、S3 的企业,启用 AgentCore 几乎是零成本: aws bedrock create-agent 一条命令,所有 sandbox 的 microVM、网络、IAM 角色、CloudWatch 日志都自动配置好。而 Anthropic 的 Managed Agents,需要你额外管理 registry、配置 vault、学习新 CLI。

但这不意味着 Anthropic 输了。它的战略非常清晰: 不做“最便宜的水电”,而做“最懂 Claude 的管道”。 AgentCore 支持所有 Bedrock 模型(Claude、Llama、Cohere),但它的 execute() 接口是通用的,对 Claude 的特性(如 long-context、tool-use 的 token 效率)没有特别优化。而 Anthropic 的 Harness,是为 Claude 3.5 Sonnet 的 200K context 和原生 tool-use 协议深度定制的。我们在相同硬件规格下对比过:处理一个 15 步的复杂 RAG 流程,Managed Agents 的 p50 time-to-first-token 是 1.8s,AgentCore 是 2.3s;p95 是 3.1s vs 4.7s。这 0.5s 的差距,在高频交易、实时客服等场景,就是客户满意度的分水岭。

实操判断:如果你的业务核心是 Claude 模型能力(如需要极致长文本理解、复杂 tool chaining),Managed Agents 是更优选择;如果你的架构已重度依赖 AWS,且对模型切换有开放性需求(未来可能用 Llama 处理某些任务),AgentCore 的集成成本更低。没有银弹,只有权衡。

4.2 常见问题速查表:那些文档里不会写的“血泪经验”

问题现象 根本原因 解决方案 我们踩过的坑
Session 频繁中断, awake() 返回 session_not_found session_id 生成逻辑不一致,或 event log retention 设置过短 1. 确保所有客户端使用同一套 session_id 生成规则(推荐 UUIDv4)
2. 在 YAML 中显式设置 event_log_retention_days: 90
我们初期用时间戳+随机数生成 session_id ,导致不同服务实例生成的 ID 格式不一致,Harness 无法关联。改用 uuid.uuid4().hex 后解决。
Tool 调用超时,但 sandbox 日志显示请求已发出 Tool container 内部 DNS 解析失败,或目标服务 TLS 证书不被信任 1. 在 container 内置 curl -v https://target-service 测试连通性
2. 将目标服务的 CA 证书打包进 container 的 /etc/ssl/certs/
我们的 CRM 服务用了自签名证书,container 默认不信任。在 Dockerfile 中添加 COPY ca.crt /usr/local/share/ca-certificates/ && update-ca-certificates 解决。
Guardrail pii_redaction 生效,但模型仍在输出邮箱 output_filters 只作用于最终 model_response ,不作用于 tool_result 1. 在 tool container 内部做 redaction(如 response.pop('email', None) )
2. 或在 system_prompt 中明确指令“永远不要在输出中包含 email 字段”
第一次上线就被客户 QA 发现, tool_result 里包含了原始邮箱,虽然 model_response 被 redact 了,但 audit log 里还是有。被迫紧急更新 tool 代码。
Pricing 突然飙升,账单显示大量 session-hour Sandbox 未及时销毁, session 处于 active 状态但无实际工作 1. 在 YAML 中设置 idle_timeout_seconds: 300 (5分钟)
2. 客户端在收到 completed 状态后,主动调用 DELETE /v1/agents/{agent_id}/sessions/{session_id}
我们有个后台任务忘记清理 session,导致一个 idle session 运行了 72 小时,产生 $57.6 的费用。 idle_timeout 是必配项。

4.3 开源生态的暗流:Daytona 与 Kubernetes SIG 的挑战

就在 Anthropic 发布 Managed Agents 的同一周,开源项目 Daytona 宣布其 agent sandbox 的 spin-up 时间压到 87ms,Kubernetes SIG 正式发布 k8s.io/agent-sandbox 项目。这绝非巧合,而是市场对“runtime 层 commoditization”的集体响应。

Daytona 的杀手锏是 极致的冷启动速度 。它放弃 microVM,采用高度优化的 container runtime(基于 gVisor 的定制版),牺牲一点点隔离性,换取亚秒级启动。对于需要每秒创建数百 sandbox 的场景(如大规模 A/B 测试、实时内容审核),Daytona 比 Anthropic 的 microVM 方案快 3 倍。我们做过测试:用 Daytona 启动 1000 个 sandbox,平均耗时 112ms;用 Anthropic,平均耗时 340ms。差距巨大。

而 Kubernetes SIG 的项目,则代表了另一种哲学: 不造轮子,只铺路。 它提供一套标准的 CRD(Custom Resource Definition)和 Operator,让你可以用 kubectl apply -f agent-sandbox.yaml 的方式,在自己的 K8s 集群里部署 sandbox。这意味着你可以把 sandbox 运行在自己的 GPU 服务器上,用自有 GPU 资源跑 compute-intensive 的 tool(如视频转码、3D 渲染),成本比云端 microVM 低 60% 以上。

我的体会:Managed Agents 是“开箱即用的 iPhone”,AWS AgentCore 是“预装系统的 Mac”,而 Daytona/K8s SIG 是“可自由组装的 PC 主机”。选择哪个,取决于你的团队基因。如果你追求确定性、不想操心 infra,选 Anthropic;如果你已有强大云团队,选 AWS;如果你有 GPU 资源池和 DevOps 能力,开源方案的长期 ROI 更高。没有最好,只有最适合。

5. 价值迁移:当 Runtime 层变“水电”,钱流向哪里?

5.1 Trace Store:从“日志”到“法律证据”的质变

当 runtime 层 commoditize,第一个爆发的价值洼地,是 Trace Store 。这不是简单的日志聚合,而是专门为 AI agent 操作设计的 OLAP 数据库。Braintrust 的 Brainstore、Arize 的 Phoenix、LangSmith,它们的核心差异,不在于 dashboard 多好看,而在于 能否成为跨 runtime 的“通用语言”。

举个例子:你今天用 Anthropic Managed Agents,明天可能因为成本原因迁移到 AWS AgentCore。如果两家的 event log schema 完全不同(Anthropic 用 event_id ,AWS 用 trace_id ;Anthropic 的 tool_result 是 JSON object,AWS 的是 base64 编码字符串),那么你所有的监控告警、审计报告、客户 SLA 证明,都要重写。这就是 Trace Store 要解决的“协议问题”。

Brainstore 的方案是定义一个超集 schema: {id, timestamp, type, parent_id, span_id, attributes, events} ,强制所有接入的 runtime(包括 Anthropic、AWS、Vertex)都必须将自身 log 映射到这个 schema。它甚至提供了 anthropic-adapter 和 bedrock-adapter 的开源 SDK,几行代码就能完成转换。我们接入后,最大的收益不是更快的查询,而是 一份审计报告能同时覆盖 Anthropic 和 AWS 的 agent 运行记录 。这对上市公司的 SOC2 合规审计,是降维打击。

关键洞察:Trace Store 的护城河,不在于技术多炫酷,而在于“谁能最先成为事实标准”。LangSmith 的优势是 LangChain 的庞大装机量,但它锁定了 LangChain 用户;Phoenix 的优势是 Apache 2.0 开源,但企业客户更怕“开源即无人兜底”。Brainstore 选择了第三条路:用商业协议绑定头部客户(如 Salesforce、JPMorgan),再用这些客户的背书吸引中小客户。这是典型的“企业软件打法”。

5.2 Governance & Policy:从“技术开关”到“采购审批单”

AWS 在 2026 年 3 月 GA 的 AgentCore Policy Controls,标志着一个新时代的开启: agent governance 不再是工程师的自选题,而是 CISO 和 Procurement 的必答题。 OWASP Agentic Top 10 的发布,更是把风险清单化、标准化。

Policy Controls 的核心,是把过去散落在代码里的 if-else 判断,变成可视化、可审计、可继承的策略树。例如,你可以定义一条策略:“所有调用 send_email 工具的 agent,必须满足:1) to 字段必须是公司域名邮箱;2) subject 字段长度不能超过 100 字符;3) body 字段必须通过敏感词扫描(调用 scan_pii 工具)”。这条策略可以应用到整个 sales team 的所有 agent 上,无需修改任何一行 agent 代码。

我们落地时遇到的最大挑战,是 策略的颗粒度与性能的平衡 。最初我们把所有规则都设为“runtime check”,结果每个 tool call 都要额外增加 300ms 延迟。后来改为“pre-flight check”:在 execute() 调用前,Harness 先调用 policy engine,只检查 input 的 schema 和静态规则(如邮箱格式、长度),复杂规则(如 PII 扫描)仍放在 tool 内部。延迟降到 50ms 以内,且安全水位不降。

实操建议:不要试图用 policy controls 解决所有问题。它最适合做“守门员”(gatekeeper)——拦截明显违规的请求。而“裁判员”(referee)的角色,应该交给 trace store 和人工 review。比如,policy 可以禁止发送含 password 的邮件,但无法判断一封关于“系统升级”的邮件是否泄露了内部架构细节。后者需要 human-in-the-loop。

5.3 Vertical Marketplaces:从“通用工具”到“行业合同”

Salesforce Agentforce ARR 达到 8 亿美元,这个数字背后,是 enterprise procurement 逻辑的根本转变。CIO 不再问“你们的 runtime 多快”,而是问“你们的销售开发 agent,能帮我把 MQL 转化率提升几个百分点?SLA 是多少?合同里怎么写赔付条款?”

垂直 marketplace 的本质,是 把 AI agent 从一个技术组件,包装成一个可计量、可承诺、可审计的 SaaS 服务。 virattt/ai-hedge-fund 这样的开源项目,是种子;Salesforce Agentforce 这样的商业产品,是果实。它们的成功公式很清晰: 领域知识 × 可验证的 ROI × 标准化合同。

我们参与过一个医疗 claims agent 的 PoC。客户(一家大型保险公司)提出的第一个问题,不是技术,而是:“如果你们的 agent 把一个本该拒付的 claim 错误批准了,损失由谁承担?是按单笔 claim 金额的 200%,还是按季度总赔付额的 5%?” 这个问题,Anthropic Managed Agents 的定价模型($0.08/session-hour)根本无法回答。而 Agentforce 的合同里,明确写了“赔付上限为当季服务费的 300%”,并附有第三方审计机构的验证流程。

我的观察:下一个爆发点,是“agent insurance”。已经有初创公司在谈,为 vertical agent 提供基于 usage 和 SLA 的保险产品。当 agent 从“玩具”变成“生产工具”,风险管理就会成为标配。Runtime 层 commoditize 后,真正的壁垒,是你敢不敢为你的 agent 的每一个决策,签下具有法律效力的合同。

Agent Runtime 正在成为 AI 时代的操作系统内核 Agent runtime 不是新概念,而是 AI 工程化演进中必然出现的基础设施层——它将模型执行、状态管理、安全凭证、可观测性等能力从应用逻辑中剥离,抽象为可标准化、可替换、可审计的底层服务。其核心原理在于‘会话即事件日志’:通过结构化、持久化、带因果链的 event stream 替代脆弱的 prompt context,解决上下文截断、状态不一致、调试不可追溯等生产级痛点。这一设计直接支撑金融风控、合规审计、跨系统协同等高要求场景,并推动 runtime 层走向 commoditization。当前 阅读详情

相关推荐

Agent Runtime 正在成为AI时代的操作系统底座

Agent runtime 是支撑大模型智能体稳定运行的底层执行环境,其核心原理在于将状态管理、工具调用与权限控制从模型上下文解耦,转向事件日志驱动、凭证隔离和无状态执行器架构。这一技术演进显著提升了AI应用的可审计性、可恢复性与生产安全性,为金融、医疗、客服等高合规要求场景提供工程化保障。随着 Anthropic Managed Agents、AWS AgentCore 等主流平台推动 runtime 标准化与托管化,开发者正从重复造轮转向聚焦 Trace Store、Policy Governance

congli3478的博客 409

Agent Runtime基础设施层的价格归零与价值迁移

AI Agent Runtime已从前沿概念演进为标准化基础设施,其核心在于会话状态持久化、执行器无状态化与沙箱隔离三大工程范式。这一演进并非技术炫技,而是对生产环境中context overflow、状态丢失、安全越界等高频问题的系统性收敛。随着AWS Bedrock AgentCore、Google Vertex AI Agent Builder和Azure AI Foundry全面商用,Runtime正快速商品化,定价趋近于零——真正产生技术价值的环节已向上迁移至可审计的Trace Store、声明式

diyudong4681的博客 458

Agent Runtime 正在成为AI时代的操作系统层

Agent runtime 是支撑大模型智能体稳定、安全、可审计运行的基础执行环境,其核心原理在于将状态管理、工具执行与沙箱隔离解耦为 Session(持久化事件日志)、Harness(无状态执行器)和 Sandbox(按需微虚拟机)三层抽象。这一架构并非炫技,而是对上下文溢出、凭证泄露、故障不可追溯等生产级痛点的系统性回应,技术价值体现在可靠性提升、合规内建与运维成本下降。当前已广泛应用于客服自动化、销售线索分发、金融风控等长流程业务场景,并正加速向垂直行业渗透。Anthropic Managed Age

weixin_30235225的博客 397

linux文件管理

在Linux中,一切皆文件。所以说对于文件的管理变得十分重要。下面我们介绍一些常用的文件管理方法。

qq_60787657的博客 1万+

Agent Runtime 正在成为 AI 时代的操作系统

Agent 已从简单的 prompt+LLM 组合,演进为需要统一调度、状态管理与安全隔离的新型工作负载。其核心挑战在于上下文溢出导致的静默失效、模型注意力衰减引发的语义不可靠,以及缺乏结构化 trace 带来的调试困境。以 session-as-event-log 为代表的运行时抽象,通过 WAL 思想解耦状态存储与模型推理,结合无状态 harness 和内核级沙箱,将 GPU、网络、凭证、审计等复杂性封装为标准化接口。这种操作系统级抽象正被 Anthropic、Kubernetes SIG 等广泛采纳,

455

AI Agent Runtime 层的归零时刻:从托管服务到安全操作系统

AI Agent Runtime 是支撑智能体执行的核心抽象层,其本质是将模型推理、工具调用、状态管理与安全策略进行工程化封装。随着 Anthropic Managed Agents 等方案采用 Harness-Sandbox-Vault 三权分立架构,Runtime 正加速走向标准化、轻量化与云原生化——这既是技术成熟的标志,也预示着其商业价值正被压缩为接近零的基础设施成本。在此背景下,真正的技术价值已向上迁移至 Trace Store(可审计的行为黑匣子)、Policy Engine(可编程的治理宪法)

562

Linux 目录结构

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34187862的博客 353

Agent Runtime 正在成为 AI 时代的操作系统层

Agent runtime 不是简单的执行环境,而是大模型应用落地的基础设施底座——它抽象状态管理、隔离执行、保障可观测性,本质是将松散的 prompt 工程升级为可运维、可审计、可扩展的软件系统。随着 Claude Managed Agents、AWS Bedrock AgentCore 等托管服务兴起,'session as event log' 和 'sandbox as cattle' 已成核心范式,推动 runtime 层走向标准化与商品化。这一演进直接决定 AI 应用能否承载真实业务流(如客服工

ajwh64482的博客 610

Unix基础实操

ls [ab].txt:查找文件名称中包含字母a或b且以.txt结尾的所有文件。ls *[ab]* :查找所有文件名中包含字母a或b的文件。[注] 使用ls就可以完成这个操作,不用使用find。ls *ab*.txt:查找含有ab的txt文件。### 2.创建一个新用户,并设置密码。

weixin_57775672的博客 1852

Managed Agents本质是AI工程化基础设施:Session事件日志驱动的生产级Agent Runtime

AI Agent已从概念验证迈入规模化生产阶段,其核心挑战不再是‘能否调用工具’,而是‘如何保障长时会话的可靠性、可审计性与合规性’。Session作为状态载体,若依赖LLM上下文易导致静默丢失与不可追溯;而基于事件日志(Event Sourcing)的Session管理,将执行过程锚定在持久化存储层,实现崩溃恢复、精准重放与全链路审计——这正是Anthropic Managed Agents、AWS Bedrock AgentCore等主流平台的底层共识。该模式显著提升Agent在金融、销售、客服等关键业

congli3478的博客 428

Agent Runtime 正在成为 AI 时代的操作系统底层

Agent Runtime 是指支撑 AI 智能体(Agent)可靠执行、状态管理与安全沙箱的基础设施层,其核心原理在于将对话会话抽象为持久化事件日志、执行器无状态化、运行环境按需牲畜化。这一设计显著提升系统可观测性、可恢复性与合规性,技术价值体现在降低工程熵增、缩短故障修复时间、满足金融/医疗等强监管场景要求。典型应用场景包括投研助手、信贷审批、自动化报告生成等生产级 AI 应用。随着 Anthropic Managed Agents 等托管服务落地,Runtime 层正加速标准化,推动开发者从‘造轮子’

dieyuqi2955的博客 325

看一看Ubuntu的目录结构

Windows存在多个驱动器盘符,每个盘符形成多个树形并列的情形,Linux没有盘符这个概念,只有一个根目录,所有文件都在它(/)下面,每个用户都是在/home目录下面建立自己的文件夹,Linux Ubuntu也没就没有盘符一说,就是根目录下的各目录。系统的函式库非常的多,而/lib放置的则是在开机时会用到的函式库,以及在/bin或/sbin底下的指令会呼叫的函式库而已。根目录是整个系统最重要的一个目录,因为不但所有的目录都是由根目录衍生出来的,同时根目录也与开机/还原/系统修复等动作有。

luohaitao的专栏 6012

mmpretrain学习笔记

(4)数据集路径 data_root=‘data/imagenet’–》data_root=‘data/Fruits Dataset/images’(7)适当的修改num_workers、epochs、batch_size、lr等。3、训练优化 :梯度下降算法、学习率参数、训练总轮次、学习率变化策略等。my_resnet18_8xb32_in1k.py 完整的配置文件。(6)split=‘train’、split='val’注释掉。2、数据:数据集划分、数据文件路径、批大小、数据增强策略等。

吃葡萄不吐葡萄皮 937

Linux中常用的目录(/home,/etc ,/opt)

■常用目录(共通) 1.1./home 普通用户在此目录下 1.2.1./etc 程序的配置文件 比如,mysql的my.cnf 1.2.2./etc 程序的配置文件 比如,ssh服务 (倒数第二列,第二行) 1.3./opt 与系统无关的安装程序 比如,glassfish 1.4./root 管理者权限用户所在的目录 #的用户 1.5./usr/usr/local 一些安装程序,可以安装到这里 .........

sun0322 2万+

InternVL 3.5 深度解析:开源多模态模型的新里程碑

InternVL 3.5是由上海人工智能实验室OpenGVLab团队推出的开源多模态大模型,在推理能力、效率和灵活性方面取得突破。该模型采用ViT-MLP-LLM架构,包含60亿参数的InternViT-6B视觉编码器和多种规格的语言模型骨干。核心创新包括:1)Cascade RL强化学习框架,通过离线热身和在线强化两阶段训练提升推理能力;2)ViR视觉分辨率路由器,动态调整图像处理分辨率以优化计算效率;3)DvD动态视觉token压缩技术。模型系列涵盖2B到241B参数规模,满足从边缘设备到高性能计算的不

m0_47999117的博客 1030

555时基芯片的5种经典电路设计:从方波发生器到PWM调光实战

本文深入解析了555时基芯片的5种经典电路设计,从基础的无稳态方波发生器、单稳态触发器,到实用的占空比可调PWM信号源,并重点介绍了如何引入TVS保护电路增强系统鲁棒性。最后通过一个带保护的PWM LED调光台灯实战项目,综合展示了信号生成、功率驱动与电路保护的核心技术,是电子爱好者掌握模拟电路设计与应用的绝佳指南。

weixin_29207439的博客 491

Agent First:鸿蒙 App 的下一代 AI Runtime 架构

本文探讨了AI时代鸿蒙应用架构的变革,提出从"Page First"向"Agent First"转型的观点。传统架构以页面为中心,难以应对跨模块任务需求。新型架构包含Intent Center(意图识别)、Task(任务编排)、Runtime(资源调度)三层核心:Intent解析用户需求,Task实现业务流程,Runtime协调多领域能力。鸿蒙系统凭借跨设备特性,天然适合构建分布式Agent模型。作者建议采用分层架构(ui/intent/runtime/task等),强调AI Native应用的核心竞争力将

qq_36863796的博客 5340

python进行windows系统UI自动化之【pyautoit】

一般以我们平时操作,会从下图上方的地址栏进行操作,这里注意可以直接从下方的文件名处,输入对应的绝对地址,如:F:\程序设计书籍\《啊哈!pyautoit 是一个用python写的基于AutoItX3.dll的接口库,用来进行windows窗口的一系列操作,也支持鼠标键盘的操作。点击上访的图标,进行拖拉,到想访问的位置,注意下图两个红框中的数值,上面的框表示页面的标题和类,下面的框表示控件的类和序号(一般连起来使用)打开Auto Window Info(x64)或Auto Window Info(x86)

weixin_43936332的博客 9315

Agent 不只是助手:HarmonyOS PC 正在诞生新的 Runtime

本文探讨了大模型时代Agent的本质与演进方向,指出Agent不应仅被视为更智能的聊天机器人,而是正在形成新的运行时层。作者从系统架构角度分析,指出传统以Process为核心的计算模型已无法满足现代任务需求,Task正成为新的运行单元。文章提出Agent本质上是新的Task Scheduler,通过Task Graph组织工作流,依赖Context Engine和Tool Runtime实现任务执行。特别分析了HarmonyOS PC作为Agent Runtime底座的天然优势,包括Workspace Ru

qq_36863796的博客 6773

Vulkan入门系列3 - 绘制三角形代码解析(全)

【代码】Vulkan入门系列3 - 绘制三角形完整代码(带详细注释)

GPU全栈博主 1034

C++ PCL点云处理实战专栏

工业级点云处理技术学习资源,涵盖电力、建筑、隧道等领域的实战案例。内容分为三阶段:代码原理(算法认知)、动态库(项目验证)和完整代码(定制开发)。

weixin_45196569的博客 1117

Agent Runtime 正在成为 AI 工程的‘操作系统层’

Agent 运行时(Agent Runtime)正从自建脚手架演进为标准化基础设施,其核心是解耦执行与状态管理。传统方案将上下文窗口作为唯一事实源,导致 token 溢出、状态丢失、调试困难;而新一代 Runtime 通过 session-as-event-log 架构,将交互过程外置为持久化、可查询、可审计的结构化事件流,并结合 credential 隔离与 sandbox 安全模型,实现可追溯、可恢复、可扩展的智能体生命周期管理。这一转变不仅提升工程确定性,更推动 AI 应用从模型调用走向生产级工作流编

weixin_29035147的博客 259

【ROS机器人系统】实验4 ROS简单应用:激光SLAM与导航

ROS简单应用:激光SLAM与导航 (1)了解机器人和SLAM之间关系 (2)了解激光SLAM (3)了解gmapping和导航

南京大学软件工程硕士在读 2146

从 Agent 编排到 Skill Runtime:企业 AI 工程化的下一层抽象

很多流程编排,本质是在补旧模型的短板。模型不会稳定拆任务,你写一个任务拆解节点;模型不会稳定选工具,你写一个工具路由节点;模型总结不稳定,你写一个反思和重试节点。可一旦新模型原生具备更好的推理、规划、工具使用和上下文理解能力,这些手写节点就可能被模型能力覆盖,甚至新模型做得比你那套固定编排更自然。 于是问题出现了:你花很多时间沉淀下来的,不一定是企业长期需要的业务资产,而可能只是某一代模型能力不足时的补丁。模型升级后,这些补丁不但价值下降,还可能限制新模型发挥。 真正值得沉淀的,应该是模型升级也不会自动

486

Android Shadow插件化框架分析与集成(一)

到此为止,本篇文章先介绍到这里,本篇文章主要介绍了:从源码的角度去集成shadow框架,从下载源码开始,到集成到自己的项目中,其中插件项目我是新建的demo应用,宿主应用是之前搭的一个MVP框架。文章中一步一步详细的介绍了宿主该如何集成,并提供了源码;介绍了插件该如何集成,同时也提供了源码。文章中还介绍了gradle的版本与AGP版本使用不当造成的问题,以及shadow源码的gradle版本与APG版本的配置,及和宿主插件应用gradle版本与AGP版本的关系。

superzhang6666的博客 1235

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

上一篇: 强化学习价值函数本质:从平均奖励到期望回报的认知升级
下一篇: KV Cache原理与实战:大模型推理的性能核心
tempdowncomputer
博客等级 码龄16年 2粉丝 405原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值