2301_82040283的博客

原创 百度百舸多模态数据湖的设计与实践

大模型的迭代正在把数据推到舞台中央。当训练语料从整齐的结构化行表，变成图像、视频、音频、文本与 Embedding 混杂的资产，传统数据湖在存储格式、访问模式与计算引擎上都面临新的挑战。百舸多模态数据湖要回答的是：如何让多模态数据像结构化数据一样被高效地存、算、管。先看一条样本本身。过去做推荐或风控，一条样本通常就是这几列标量：id / user_id / item_id /label / ts，整行不过几十字节，一个 Parquet 文件装得下千万条。

原创 百度智能云联合哈工大提出 VLDA，机器人操作从预测未来转向学习变化

近日，百度智能云联合哈尔滨工业大学（深圳）提出面向机器人操作（robotic manipulation）的新范式 VLDA（Vision-Language-Delta-Action，视觉-语言-变化-动作），并在百度百舸开源的训练框架 LoongForge 中同步开放了完整训练实现。这项工作针对的是具身智能领域的一个长期痛点：现有模型要么从观察直接映射到动作、把「该改变什么」隐含在动作监督里，要么耗费大量容量去预测整幅未来画面。VLDA 的解法是只学「任务相关的那一点状态变化」（Delta），并让它直接参与

原创 上海交大 × 百度百舸开源 WAVE-0：无需大规模视频预训练，257M 潜空间世界模型让 π₀.₅ 真机平均成功率接近翻倍

近期，工业界的一大批世界模型工作在学术界的具身 benchmark 上不断刷新成绩。但这些性能提升往往伴随着更复杂的结构设计和更多的训练数据，很难分辨能力提升究竟来自哪里。更值得注意的是，一些第三方真机评测显示，这些榜单上成绩领先的模型，在真机性能或数据效率上并不一定超过 π₀.₅。这就引出一个问题：我们该如何更公平地判断一个模型设计是否真正有效？毕竟，我们需要的是能够迁移、泛化性更好的设计，而不仅仅是榜单上的分数。为此，上海交通大学联合百度智能云、Awaken Robotics 的研究团队发布了。

原创 不用 NVLink，Muon 训练步时缩短 63.7%：百度百舸具身智能场景的优化实践

不过，训练规模扩大后，Muon 本身的开销会变得突出。2025 年，Moonlight 用 Muon 训练了 160 亿参数的 MoE 模型，实验表明，在计算最优配置下，Muon 只需约 52% 的训练计算量即可达到 AdamW 的同等表现。MuonX 用 Gram NS 降低 NS 迭代的计算量，用 DMuon 减少多卡训练中获取完整矩阵的开销，在实例内未配置 NVLink 的百舸 hpas.lgn7ib 实例上，将 LingBot-VLA 2.0 的 FSDP 训练步时缩短六成以上。

原创 Visa持卡人请查收！你的专属Token福利来了！

原创 《金发〔2026〕 8 号》落地：金融机构如何建立大模型与 Agent 全流程安全能力？

金发〔2026〕8 号》把金融 AI 安全责任延伸到数据、模型、内容、运行过程和 Agent 动作。金融机构需要建立贯穿训练、推理、运营、评测和 Agent 调用链路的安全能力，并能用日志、质检结果、评测报告和调用轨迹证明这些能力持续有效。百度智能云 AI 安全护栏金融解决方案将监管要求拆成对应的系统能力和运营动作，帮助金融机构缩短从理解条款到完成建设、从发现风险到调整策略的路径，让大模型和 Agent 在真实业务中保持可控、可追溯、可验证。

原创 百度百舸第一时间适配 RLinf v0.4，持续建设具身智能 AI Infra 全链路能力

基于强化学习的仿真真机协同训练。对应 RLinf 团队被 CoRL 2026 接收的 RL-Co 方法：在仿真环境中用 PPO 做强化学习，同时在真机轨迹上做 SFT，两种训练信号放进同一个优化循环，既提升仿真任务成功率，又保留真机数据带来的先验。真机工程更模块化：全新模块化真机接口（rlinf.robotics）将机械臂、灵巧手、相机、移动底盘与遥操作外设抽象为即插即用的「乐高积木」，硬件驱动与任务逻辑彻底解耦，换本体、改构型或跨节点部署时，上层任务与策略代码「零改动」。

原创 让推理服务稳定可控，从负载治理到 KVCache 全域感知

回顾整套方案，我们围绕流量、负载和 Cache 建立了三层稳定性能力。在流量侧，通过流量分级管控、冷启动加速和事件驱动弹性，将客户有感的可用性抖动次数降低 80%，并显著缩短扩容准备时间。在负载侧，通过动态分桶与 KV Cache 无感跨桶热迁移，解决静态负载不均与运行期负载漂移，使 Decode 吞吐提升约 40% 至 50%，Prefill 吞吐提升约 20% 至 30%。

原创 面向高效推理的 MoE 专家压缩，合并与剪枝的协同设计与工程实践

本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。在技术站公众号回复「百度百舸 2609」，可以获得此次 Meetup 下午的 3 个演讲主题材料。各位嘉宾、各位社区的开发者，大家好。今天想和大家分享我们在 MoE 专家压缩方向上的一些思考和实践。MoE 模型通过 router 为每个 token 选择少量专家参与计算，在扩大模型参数规模的同时，把单 token 的计算量控制在相对可接受的范围。

原创 TB 级模型推理服务的显存极致优化实践

后面三个方面主要讲系统实践，包括。

原创 百万小时具身数据，先过数据管线这一关：百度百舸 Egocentric 视频相机轨迹恢复加速实践

算力预算不变时，数据管线的效率决定了能产出多少训练数据。按本文的端到端结果，在同样的 GPU 时间内，MegaSaM 能处理的视频时长提高到原来的 1.75 倍，Droid-W 提高到 1.45 倍。具身 AI Infra 的效率评估不应止于模型训练。从原始数据到可训练数据，整条数据管线的处理吞吐、单位数据算力成本和端到端交付周期，都需要纳入统一评估。本文对相机位姿恢复环节的优化表明，数据管线本身同样存在显著的系统优化空间。上述优化，均在搭载国内主流 GPU 的实例上完成。

原创 极致 KVCache 推理服务效能优化与多芯软硬协同实践

本文整理自 26 年 9 月 22 日 SGLang Meetup 北京站活动的同名主题演讲。在公众号回复「SGLang-Kunlun 2609」，可以获得此次 Meetup 上午的 3 个演讲主题材料。大家好，我是来自百度智能云的张彦哲。今天我和同事王凯一起，分享我们在前缀缓存方向上的一些经验。今天的分享分为三部分。首先，我会介绍百度百舸在 KVCache 命中率和 KVCache 性能损耗优化两方面开展的一些通用工作；接下来由王凯介绍百度百舸在多芯适配工作。

原创 多芯插件机制与 SGLang-Kunlun 最佳实践

SGLang 社区现在已经上百万行代码。目前支持 CUDA、ROCm、NPU、XPU、MUSA 等多种硬件后端，社区还在不断接新的进来。听上去很繁荣，但后端一多，主仓就被拖得越来越重。每加一种硬件，attention、KV pool、graph runner、量化、通信这些实现就散落主仓各处，改一处通用逻辑得照顾所有硬件，新功能想进来也越来越难。同时，要让一个后端持续可用，需要完整的持续集成覆盖率和维护者持续投入，社区很难为每个后端都提供这样的保障。

原创 百度沧海·存储：新一代技术架构体系设计与实践

最后做一个总结。我们的核心思路，是将共性能力沉淀为统一底座，针对不同场景组合适配，并通过跨层协同优化关键路径。第一，统一底座。我们将过去分散在各产品中的基础能力，沉淀为统一的元数据底座 MetaDB 和数据底座 Aries。对象、文件和块存储可以按需复用这些能力，让底层能力的改进能够惠及多个产品。第二，场景适配。不同存储产品有各自的语义和 IO 特征，因此需要在共享底座之上组合不同的组件。

原创 Agent 想用但不敢用？百度智能云企业级 Agent 安全落地实践

本文整理自百度智能云云安全架构师林道正在 AICon 大会上的主题演讲《Agent 想用但不敢用？百度智能云企业级 Agent 安全落地实践》。

原创 PFS L3 技术架构解析：为 AI 生产负载全新设计的并行文件存储

前面介绍的五大升级路径，已经在后训练等真实生产场景中完成规模化落地。下面分享一个来自大模型后训练强化学习场景的实践案例，主题是从本地准备加手工同步，走向统一共享存储加自动容错。先看旧模式。在早期使用方式下，用户提交作业、占用 GPU 卡之后，第一件事是从远端把代码、数据、模型手动下载到本地，这一步大约要一个小时；下载完还要人工把数据从一个节点同步到其他所有节点，才能启动训练。这里有三个系统性的问题：一是准备期 GPU 占着卡但完全空转；二是漏同步某台机器这类低级错误很常见，排查起来却要花大量时间；

原创 数据规模跨过百万小时之后，具身智能开始真正考验 AI Infra

Dyna-2 留下的核心启示，不是百万小时训练需要一套更大的基础设施，而是随着模型和数据规模变化，系统瓶颈会不断迁移。模型的读取模式约束着数据如何编码、分块和缓存；数据管线与容错能力决定采购的 GPU 有多少真正转化为有效训练；基础设施能否支撑更大规模的实验，又影响团队是否有足够证据判断一个研究方向。

原创 GPU 在等数据，具身模型训练中常被忽视的 DataLoader

随机访问场景下，每次打开视频并构建解码对象，都会产生一次固定开销，一个样本涉及多个相机或多个分段时，这笔开销累积得越明显。原有流程中，抽帧位于数据处理链路下游，解码层不知道下游需要哪些帧，仍会将 33 帧全部解出，其中 24 帧随后被丢弃。把所有可能的窗口提前裁出来解码存好并非做不到，但存储会成倍膨胀，采样方式也随之固定，所以实际训练通常保留原始 episode，训练时随机确定采样窗口，再在线定位关键帧、解码、逐帧处理。与解码优化合并后，解码直接输出 9 帧，不再回填，后处理也只处理这 9 帧。

原创 如何把 HPN 多平面的带宽，真正转化为 AI 任务的通信效率？

同一个通信流里的包或 Cell，可以按序依次轮询到不同的服务器端口上，再依次轮询到不同的网络链路上，而不是像逐流模式那样，整条流被 HASH 固定在一条路径上。而 AI 任务的通信流数量本就有限，多条流一旦被 HASH 到同一条路径，就极易出现 HASH 极化，即少数路径持续拥塞，多数路径相对空闲。围绕这一问题，百度智能云面向典型的 AI 集群网络基础设施场景，整合通信库、网卡、交换机等软硬件能力，为 HPN 多平面负载均衡提供两类优化方向：一是细化负载粒度，二是优化逐流选路策略并实现端网协同的动态调度。

原创 《百度天池超节点系统架构设计规范》正式开放下载

计算节点和网络节点是超节点中的最小单元，其架构设计直接影响超节点系统的运维与管理效率。《设计规范》给出了从机柜级到节点级的分层带外管理架构，并基于统一的硬件数据模型，覆盖电源、液冷、主板、AI 加速卡、网卡等部件的状态监控、故障定位和固件运维，让整柜复杂硬件具备统一的可观测、可控制、可恢复能力。通过这份《设计规范》，产业伙伴不仅可以了解百度天池超节点的设计细节，更可以直接复用经过验证的规格与接口要求，借鉴它在空间、功耗、散热、互联与运维之间的权衡思路，在设计自己的超节点产品时，省去从零探索的成本。

原创 百度开放天池超节点参考架构：从少数厂商专属，到行业普遍可用

在基础设施适配上，百度天池超节点采用标准机架尺寸，供电兼容 AC/AC、高压直流、单相、三相等多种方式，管路设计兼容上进水与下进水，并可适配 CDU、风液混合等不同冷却方案，最大限度复用数据中心既有基础设施，减少因超节点形态变化带来的额外改造，让超节点能够更顺畅地进入不同客户的数据中心环境。这一次，百度希望通过开放天池超节点参考架构，降低产业设计、验证和部署超节点的门槛，让更多厂商能够参与，让更多数据中心能够部署，让更多行业客户能够真正使用。15 年后，面对正在快速演进的超节点，百度再次选择开放。

原创 PFS L3 技术架构解析：为 AI 生产负载全新设计的并行文件存储

前面介绍的五大升级路径，已经在后训练等真实生产场景中完成规模化落地。下面分享一个来自大模型后训练强化学习场景的实践案例，主题是从本地准备加手工同步，走向统一共享存储加自动容错。先看旧模式。在早期使用方式下，用户提交作业、占用 GPU 卡之后，第一件事是从远端把代码、数据、模型手动下载到本地，这一步大约要一个小时；下载完还要人工把数据从一个节点同步到其他所有节点，才能启动训练。这里有三个系统性的问题：一是准备期 GPU 占着卡但完全空转；二是漏同步某台机器这类低级错误很常见，排查起来却要花大量时间；

原创 RLinf 精度对齐 + 百度百舸全链路优化：OpenPI PyTorch 训练吞吐提升 2.37 倍

经过 RLinf 的精度对齐与百度百舸的 AI Infra 全链路工程优化，OpenPI Pi0.5 在国内主流 GPU（无 NVLink、无 HPN）环境上，单机 8 卡训练吞吐从 74.20 sps 提升至 175.57 sps，达到 2.37 倍；单个 epoch 训练时间从 61.4 分钟缩短至 26.0 分钟；训练精度与基线完全一致；32 机 256 卡规模下线性扩展比保持 91% 以上，集群算力得到充分释放。

原创 OpenAI、Anthropic 接连暴露 Agent 风险，企业该如何构建 Agent 安全体系？

7 月，OpenAI 在一项内部模型能力测试中，主动关闭模型的安全拒绝机制，并将其置于隔离沙箱内自由运行。结果，模型利用环境漏洞突破沙箱限制，进一步打通公共互联网，对外部系统发起了一系列自动化攻击。几乎同一时间，Anthropic 也被曝出 Claude Code 存在被滥用于自动化攻击链路的风险。这些事件并非偶然。回顾 PC 时代、移动互联网时代的发展历程，每一次新技术开始大规模应用，安全问题都会随之浮现。今天，Agent 正走到同样的阶段。只是，Agent 带来的挑战比以往更加复杂。

原创 入选 NSDI‘27：百度智能云 Sonata 用一套软件驾驭多厂商、多代际的网卡，让云网络始终可预期

从早年尝试硬件专用化到 Sonata 成为默认数据面，BvS 要回答的问题始终没变：当硬件、流量形态、网络策略和系统版本都在持续变化时，数据面如何保持可预期。硬件会不断更替，沉淀在软件里的能力则可以长期复用，一次优化的收益会沿着标准接口覆盖到每一代硬件。

原创 入选 NSDI‘27：百度沧海·存储元数据底座 MetaDB，让数据库真正理解文件系统

作为百度沧海·存储的统一元数据底座，它以同一套元数据数据库，向上支撑对象存储的平坦 Namespace，以及两类层级 Namespace：并行文件存储所需的 POSIX 语义 Namespace，和面向数据湖场景的对象存储、百度内部的类 HDFS 文件存储 AFS 所需的 HDFS 语义 Namespace。MetaDB（内部原名 TafDB）是百度沧海·存储统一的元数据底座，已在百度智能云生产环境稳定运行超过 5 年，峰值处理数百万 QPS，管理十万亿级元数据记录，支撑 EB 级存储规模，

原创 构建智能生命体系统：理论基础、方法论与工程实践

智能生命体的本质，是具备类人认知闭环的智能系统——即引言中所述的第三代「认知系统」。如果说第一代「能人型」产品的局限是「无法自然对话」，第二代「初代智人型」产品的局限是「无状态、无记忆、不理解世界」，那么第三代的核心突破正在于：通过「感知-认知-记忆-行动」的四元闭环，系统首次具备了主动感知、关系理解、长期记忆与自主决策的能力，实现了从「被动响应工具」到「主动认知伙伴」的质变。四元闭环正是第三代认知系统的核心架构，由四个环节构成：感知、认知、记忆、行动。感知（Perception）

原创 当 AI 从模型训练走向生产应用，并行文件存储需要重新设计

每一次计算范式演进，都会推动基础设施同步升级。HPC 时代，并行文件存储解决的是高性能计算的数据访问问题；大模型训练时代，它成为 AI 模型训练的重要数据底座；而今天，当 AI 从训练走向生产，它正在从一套高性能存储系统，演进为支撑整个 AI 平台持续运行的 AI 数据基础设施。这也是百度智能云发布PFS L3 的初衷，为 AI 重新设计并行文件存储。让存储不再是 AI 平台的被动组件，而是主动驱动数据、算力与应用高效协同的核心力量。

原创 Cosmos 3 异构集群训练加速实践，同等预算系统吞吐提升 35%

随着世界模型、具身智能模型、生成式模型等新一代 AI 基础模型快速发展，AI Infra 工程优化的重点，正从提升模型训练效率，逐渐转向优化整个训练系统。大模型训练已经不再只是模型前向、反向传播和参数更新。从数据进入训练系统开始，视频编码、数据处理等前置计算共同组成了一条更长、更复杂的训练流水线。当其中某个环节成为瓶颈时，仅仅优化模型训练本身，已经无法继续提升整体训练效率。

原创 云厂商首家！百度百舸率先适配 RLinf v0.3，打通具身智能进化闭环

强化学习开源框架 RLinf 正式发布 v0.3 版本，首次打通从数据采集、模型训练到真机部署的完整闭环。（如适配 LIBERO 仿真、OpenVLA 模型训练的预置镜像），免去繁琐的环境打包与软件部署，快速跑通从框架适配到场景验证的全流程。在最新的科研成果中，百度百舸团队联合上海交大、地瓜机器人发布 dVLA-RL 框架，首次打通 PPO 算法与离散扩散 VLA 模型的适配通路，为机器人 Foundation Model 持续自主进化奠定了技术基础。

原创 Cosmos3-Super 512 卡 Scaling，百度百舸 AI Infra 工程优化实践

世界模型越来越大，训练挑战也从「能不能跑起来」转向「能不能稳定 Scale」。基于百度百舸 hpas.lgn7ib 实例（集群无 HPN、实例内无 NVLink），从 4 节点 32 卡扩展至 64 节点 512 卡，扩展效率达 97.48%，吞吐从 33.997 提升至 530.227 samples/s，近线性扩展成立，Loss 曲线与 4 节点完全对齐。

原创 上海交大 × 百度百舸，dVLA-RL 首次打通离散扩散 VLA 强化学习

针对这一核心矛盾，论文提出了 dVLA-RL。其核心思路并不是修改 PPO，而是重新定义 PPO 的优化对象。dVLA-RL 将整个去噪过程视为一条完整的决策轨迹，使强化学习优化的目标从最终动作扩展到整个动作生成过程，从而让经典 PPO 算法得以直接用于离散扩散 VLA。相比直接优化最终动作，这种方式更符合离散扩散 VLA 的生成机制，为这一技术路线建立起一套贴合模型生成逻辑的强化学习训练体系。

原创 不用 NVLink，如何通过 AI Infra 工程优化拉满 Cosmos 3 训练吞吐

具身智能的大规模落地，既不是单点算法突破能够完成的，也不是单纯堆砌算力就能解决的。它需要模型结构创新、AI Infra 工程优化与算力网络能力的协同推进。目前，除了本文介绍的 Cosmos3 之外，百度百舸面向具身智能场景，已经为客户交付了 OpenPI、DreamZero、GR00T N1.6、Lingbot-VLA、Motus、AHA-WAM、FastWAM、Wan2.2 等众多模型的训推加速成果。

原创 上海交大 × 百度百舸，新型异步 WAM 模型破解机器人落地难题

近日，上海交通大学 ScaleLab 团队、上海人工智能实验室联合百度智能云团队，推出全新机器人操控模型 AHA-WAM（异步视野自适应世界-动作模型），顺利攻克了长期困扰 WAM 模型落地的延迟难题，为行业带来新的技术突破。论文地址：Arxiv: https://arxiv.org/abs/2606.09811项目地址: https://serene-sivy.github.io/aha-wam/

原创 深入解读 GPUDirect PCIe P2P 驱动代码：Mailbox 和 BAR1 的实现原理及对比

所谓 Mailbox，是指 GPU 内部集成了一组专用于跨设备握手的 Mailbox Control Registers。真正的业务数据仍走标准 PCIe Transaction Layer Packet（TLP），不会在宽度仅为 32-bit 级别的 Mailbox Regs 上逐片搬运。

原创 训练周期减半：LoongForge 全链路优化 GR00T N1.6 训练，吞吐提升至 2.3 倍

通过对训练调度、通信-计算重叠与数据 IO 链路的系统级优化，我们显著减少了 Python 调度开销、通信等待与数据供给空转，使 GPU 从「被动等待」转向「持续计算」。最终在不改变模型结构的前提下，实现 2.3× 加速与 56.6% 训练周期缩短，大幅提升模型迭代效率与研发节奏。目前，相关优化已集成至全模态训练框架 LoongForge。我们欢迎具身智能领域的研究者与开发者共同探索更高效的 VLA 训练方案。

原创 减少 60% 耗时，百度智能云大规模落地 Intel 至强 6 QAT 硬件加速虚拟机热迁移

双方充分发挥各自在云计算与芯片技术领域的优势，从底层硬件架构与关键特性出发，推进系统级与应用级的联合优化，全面释放算力潜能，持续提升 AI 与云服务的整体性能与效率，为百度智能云构建稳定、高效、可持续演进的算力基础设施，夯实智能时代的技术底座。基于这些能力，我们将计算密集的内存压缩工作从 CPU 软件栈卸载至 CPU 内置的 QAT 硬件加速引擎，在保障迁移一致性与稳定性的同时，有效缩短了迁移时间、降低了 CPU 峰值占用，并显著减轻了对用户业务性能的影响。

原创 Agent 时代下大模型推理系统的架构优化和工程实践

我们观察到，在新的 DSA 结构下，index 数量极少。针对命中率问题，我们引入池化策略：当请求调度至某一节点，如果该节点未缓存所需 KV Cache，但在集群层面存在该 KV Cache 时，我们会将 KV Cache 同步至该节点，以提升命中率。从线上推理服务的实际请求数据来看，Agent 出现后，数据长度也发生了显著变化—— 2025 年上半年我们优化 DeepSeek-R1 时，序列长度仍为 4K 输入、1K 输出，而目前上下文长度平均已达到 40K、60K，部分场景甚至达到 100K。

原创 10MW 单模组节省 300 万元，百度瀚海 U 系列集中式电源破解高密度算力中心的供电难题

随着 AI 算力产业高速发展，高密度算力场景已成为数据中心建设的核心方向，供电系统正迎来关键革新。当前行业存在两种主流供电架构。一种是，它凭借高密、高效、低损耗的先天优势，被普遍视为算力供电的长期发展趋势。另一种则是，它在存量数据中心和新建算力项目中依然占据绝对主流地位，是短期内无法被替代的现实选择。百度基于十余年 IDC 技术积累，聚焦当下最迫切的现实需求，发布了自研 AIDC 全场景电源解决方案及核心硬件产品——。

原创 当 CPU 成为 GPU 的隐性瓶颈：Btune 2.0 用自动化耗时分析打破性能黑盒

从手动排查到自动化诊断，从资源监控到耗时透视，Btune 2.0 的演进反映了我们对 AI 基础设施性能调优理解的深化。在算力成本高企、模型规模激增的背景下，每一毫秒的耗时优化都意味着巨大的成本节约与效率提升。Btune 2.0 不仅是一个工具，更是一套标准化的性能治理方案。我们通过开源百度在生产级别验证过的代码与技术理念，希望帮助更多开发者跨越异构计算的复杂性陷阱，让算力释放更加高效、透明。