具身世界模型的三重进化:RAW-Dream、WoG 与 WALL-WM 对比解读

GitHub Actions 自动化:5 个真实运维提效案例 本文聚焦GitHubActions在运维自动化中的实战应用,通过发布部署、配置巡检、证书续期、日志清理、告警复盘五个真实案例,展示如何将重复、易错的运维操作转化为可版本化、可审计的自动化流水线。方案依托事件驱动、权限可控、生态丰富等优势,实现发布耗时从25分钟降至6分钟,配置漂移发现时间缩短至1小时内,故障复盘完整率提升至95%。文章强调以最小风险场景切入,逐步推进自动化,最终达成提效降本、增强稳定性与可追溯性的目标。 阅读详情

引言

在具身智能迈向开放世界的道路上,世界模型 已成为提升智能体想象、规划与泛化能力的关键组件。我根据Datawhale 的 every-embodied 项目所解读的三篇前言工作的内容编写如下博客:《RAW-Dream:任务无关世界模型强化 VLA》、《WoG:条件空间世界模型导读》和《WALL-WM:事件级世界动作模型导读》。它们分别从数据增强、结构化推理和分层抽象三个角度,重新定义了世界模型的边界。本文将对这三项工作展开横向对比,并结合各博客中的核心图示,帮助读者厘清技术脉络。

对应的文章链接放置在文章末尾


1. RAW-Dream:用任务无关的想象喂饱 VLA

核心思想
RAW-Dream 提出一种 任务无关 的扩散世界模型,能够根据历史观测与动作生成高保真的未来帧预测。它不关心具体任务是什么,只专注于“世界会如何变化”。这些生成的想象轨迹被当作额外的训练数据,直接注入 VLA(视觉-语言-动作)策略的训练流程,极大缓解了真实机器人数据的稀缺问题。

关键设计

  • 扩散世界模型:基于像素级视频预测,学习通用环境动态。
  • 任务无关性:模型输入只有图像和动作,不含任务指令,因此一次训练可服务于无数下游任务。
  • 策略增强:冻结世界模型,大量生成想象轨迹(附带奖励信号),用于强化学习训练 VLA 策略,显著提升跨任务泛化能力。

在这里插入图片描述

关键图示解读
原文中的方法框架图清晰展示了 RAW-Dream 的双阶段流程:

  • 左半部分(世界模型训练):历史观测帧与动作序列输入一个以扩散 Transformer 为核心的预测器,通过迭代去噪生成未来图像。图中用虚线框标出“任务无关”约束,强调输入中不包含任务指令。
  • 右半部分(VLA 增强):冻结的世界模型充当“想象引擎”,在给定初始状态和随机动作后,滚动生成完整的想象轨迹(图像序列 + 奖励)。这些合成数据与真实数据混合,送入 VLA 策略进行行为克隆或强化学习微调。
  • 该图示直观地说明了“世界模型为策略提供无限训练数据”这一核心理念。

一句话总结:把世界模型变成一个“无限数据生成器”,让 VLA 策略在想象中千锤百炼。


简单解释

你可以把 RAW-Dream 想象成机器人专属的 “白日梦生成器” 。无论机器人以后要做什么任务(端水、擦桌子、开柜子),它都能先闭上眼,根据当前看到的画面和可能的动作,生成一连串逼真的“想象视频”。这些白日梦里,有时候会成功,有时候会搞砸,但没关系——VLA 策略可以像看录像一样从这些想象中学习经验,练得多了自然就变聪明了。这就好比一个飞行员在模拟器中飞了无数个小时,真实上机时自然更从容。

2. WoG:在条件空间中解构世界

核心思想
WoG 倡导一种结构化、可解耦的世界模型。它将复杂场景分解为多个独立的“条件变量”(如物体位置、背景纹理、光照),并学习在条件空间中进行状态转移预测。这种设计让模型不但能预测未来,还能回答反事实问题:“如果我只移动这个物体,画面会变成怎样?”

在这里插入图片描述

关键设计

  • 条件空间建模:用 VQ-VAE 将场景编码为离散潜变量,再用条件 Transformer 学习变量间的动态交互。
  • 干预与解耦:可单独控制某个条件因子,实现目标导向的“想象实验”。
  • 模型规划:在条件空间中搜索最优动作序列,天然支持基于模型的规划与操控。

在这里插入图片描述

关键图示解读
WoG 博客中的核心示意图分为三个模块:

  • 编码器模块:展示了如何将原始图像通过 VQ-VAE 压缩为一组离散的条件令牌(Condition Tokens),每个令牌对应场景的某个独立因子(如物体形状、位置、颜色),并用不同颜色的圆圈区分。
  • 动态预测模块:条件 Transformer 接收历史条件令牌序列和动作,预测下一时刻的条件令牌分布。图中用箭头清晰标示了注意力机制在多个条件变量间的交互。
  • 干预与解码模块:用户可以手动修改某一个条件令牌(如移动物体),经过 Transformer 传播影响其他变量后,再由解码器重建出符合新场景的图像。该图直接体现了“外科手术式解耦操控”的能力。

一句话总结:WoG 让世界模型拥有了“外科手术刀”般的可解释操控力。


小白阅读

对场景内容进行拆解
想象你面前有一张桌子的照片,WoG 不是简单地记住这张图,而是像侦探一样把场景拆成一块块 “可调节的积木” :比如碗的左右位置、背景的明暗、桌子的颜色……每个积木都是一个独立的旋钮。你可以单独转动“移动碗”的旋钮,就能看到碗从左边滑到右边,而背景不变。这种解耦能力让机器人能够做“如果我只改变这一个东西,会怎么样”的思考实验,比单纯看视频灵活得多。

3. WALL-WM:将动作和世界同时提升到事件层级

核心思想
WALL-WM 不再沉溺于底层的像素或控制指令,而是将世界模型和动作空间都抽象到事件级别。什么是事件?“拿起杯子”、“打开抽屉”这类语义行为。世界模型预测的是事件执行后的场景状态变化,而动作本身也被定义为一个事件标签。这种设计大幅缩短了规划视界,天然适合长程任务。

关键设计

  • 事件级状态跃迁:从视频中自动发现事件边界,构建事件图。
  • 语义动作空间:动作不再是关节角度,而是事件原语,可直接与 LLM 交互。
  • 层次化想象:高层由 LLM 分解任务为事件序列,低层由世界模型想象事件后果并校验可行性。

在这里插入图片描述

关键图示解读
WALL-WM 的架构图突出层次化抽象:

  • 事件发现与图构建:左侧流程展示如何利用视频预测模型的变化检测自动切分事件边界,并将每个事件片段编码为一个状态节点;节点之间的有向边表示事件的先后关系,形成事件图。
  • 双层级规划:上层 LLM 将“整理桌面”这类长程任务分解为(拿起杯子→放入洗碗机→擦桌子)等事件序列;下层世界模型根据当前状态和候选事件,预测执行后的状态嵌入,并评估可行性。
  • 端到端执行:图中用虚线连接的事件原语与底层策略库,表示最终通过检索或生成将事件映射为可执行的动作轨迹。该图完美诠释了"以事件为单位思考"的抽象层次。

一句话总结:WALL-WM 像人类一样“以事件为单位思考”,让长程规划不再遥不可及。


简单理解

想象你在看一段“做早餐”的视频,你不会一帧一帧记住每个关节角度,而是会自然总结成:“拿鸡蛋 → 打蛋 → 煎蛋 → 装盘” 这几个大步骤。WALL-WM 就是让机器人也学会这种“划重点”的本事。它把复杂的连续动作压缩成一个“事件清单”,机器人只要按清单执行(比如“拿起杯子”、“打开抽屉”),而不需要操心每一毫秒电机转多少圈。这样在做“整理房间”这种超长任务时,机器人可以先像项目经理一样列个大纲,再一步步落实,效率高多了。

4. 横向对比:三种世界模型范式

维度RAW-DreamWoGWALL-WM
世界建模粒度像素级未来帧预测条件结构化潜在空间事件级状态跃迁
任务相关性任务无关(通用想象力)任务相关(可干预推理)任务相关(长程子任务)
动作表示原始控制指令底层操控/条件干预语义事件原语
核心预测形式扩散模型生成图像Transformer 预测离散编码事件转移图 + 状态嵌入
规划能力无显式规划,用于策略训练条件空间搜索 (MPC)事件图搜索 + LLM 分解
主要优势无限想象数据,提升 VLA 泛化解耦干预,长期预测稳定抽象视界,天然适配语言与长程
代表场景多任务机器人操作复杂动态场景下的操控厨房、家居整理等长序列任务
关键图示特点双阶段流程:训练世界模型→增强VLA三模块:编码→动态预测→干预解码事件图 + 双层级规划

5. 总结与展望

RAW-Dream 走的是以量取胜的数据增强路线,将世界模型定位为“硅基想象力”的源头;
WoG 追求结构化理解,让世界模型不仅能预测,还能被解释和干预;
WALL-WM 则向人类认知抽象靠拢,用事件来压缩时空,让长程任务成为可能。

从各自博客中的图示也能看出这种递进关系:RAW-Dream 关注数据生成闭环,WoG 关注可解构图结构,WALL-WM 关注时空抽象层次。三条路径高度互补,未来的具身世界模型很可能融合任务无关的泛化想象、结构化条件解耦以及多层级的抽象动作空间,从而在开放世界中真正实现“看见、理解并行动”。


本文基于 Datawhale every-embodied 专题博文,并结合原文关键图示进行解读:

RK3588网络调试笔记:当我把默认RTL8211F PHY换成另一款时,踩了哪些坑? 本文详细记录了在RK3588平台上将默认RTL8211F PHY芯片替换为其他型号的全过程,包括硬件设计验证、内核驱动适配、复位时序配置等关键步骤。通过实际案例分享,提供了从驱动调试到硬件优化的系统性解决方案,帮助开发者高效完成PHY芯片替换,确保网络接口稳定性。 阅读详情

相关推荐

AudioTrack音频播放流程深度解析

深入解析Android AudioTrack音频播放的完整链路:从Java API到Native层,从共享内存Ring Buffer机制到FAST Track低延迟优化,配合源码分析带你彻底搞懂Android音频播放的底层原理

Cheson的专栏 936

GitHub 热榜项目:日榜(2026-10-31)

15 个项目里,技能类项目有 5 个,是最多的一类;再加上 claude-mem、t3code、thinkrail 这类记忆、控制台和 IDE 工具,大半项目都围着编码智能体转。榜单里的编码智能体工具,大多在让智能体少出错、按步骤干活。 按本期新增星数,前三名是 pbakaus/impeccable(+2,300)、HKUDS/DeepTutor(+2,282)和 togg53192-cmd/jailbreaks(+2,055)。impeccable 给编码智能体一套设计技能:critique、audit

u130130的博客 344

PyTorch实战:A2C算法在Pendulum环境中的调参技巧与收敛优化

本文详细介绍了使用PyTorch实现A2C算法在Pendulum环境中的调参技巧与收敛优化方法。通过分析Pendulum环境特性、设计高效的网络架构、优化超参数设置以及提升训练稳定性,帮助开发者掌握强化学习中的policy-based方法。文章特别强调了奖励工程、优势估计改进和梯度裁剪等关键优化策略,为连续控制任务提供了实用解决方案。

rum55的博客 213

GitHub 热榜项目:日榜(2026-11-03)

涨星最高的三个项目,分别对应智能体工具的三种用途:多智能体控制台、桌面自动化和跨会话记忆。pingdotgg/t3code 把 Claude Code、Codex、Cursor 等收进一个界面,手机、Web 和桌面端都能管理,新增 3,229 星。vercel-labs/agent-desktop 先读取桌面应用的可访问性树,生成元素引用快照,再按引用点击、输入,新增 2,275 星。thedotmack/claude-mem 把会话里的工具调用压缩成摘要,存进 SQLite 和 Chroma,新会话能通过

u130130的博客 451

【WRF湿度调整策略】WRF/ERA5湿度数据对比

【WRF湿度调整策略】WRF/ERA5湿度数据对比

WW、forever的博客 116

【用ArcGIS制作一张好看的中国月度气温图

要最后选中那个事先调整好的那个数据框,这样其他两个数据框才能和其大小一致。

J_Giser的博客 1015

GitHub Actions 为何适合定时任务调度?底层机

引言在现代软件开发流程中,CI/CD(持续集成 / 持续交付)已成为开发团队的标配。GitHub Actions 作为 GitHub 提供的 CI/CD 工具,因其易用性和无缝集成能力而备受青睐。然而,许多开发者在实际使用过程中会发现,它在实现定时任务调度方面表现得尤为出色。那么,为什么 GitHub Actions 的设计特别适合处理这类场景?它的底层机制又是如何支持定时任务的执行逻辑?

后台模板 229

【华为OD机试】真题-小明减肥(Java)

摘要:题目要求从n个可选运动中选取k个,使其卡路里总和等于目标值t,统计可行方案数。输入包含运动数量n、目标t、选择数量k及卡路里数组。采用DFS回溯算法,通过剪枝优化(提前终止无效分支),分别处理选择/不选当前运动的情况。当遍历完所有运动且满足条件时计数。示例输入"4 3 2"和"1 2 3"时,输出2(对应两种选择组合)。Java实现通过递归完成搜索,最终输出符合条件的方案总数。(149字)

u014481728的博客 279

GitHub 日榜趋势速报 | 2026-10-30

GitHub 日榜 2026-10-30:rea、impeccable、dsh-our-free-model 等 20 个开源项目 24 小时 Star 增速领先,每日更新的开源趋势速报。

wfly blog 199

【Go语言实战】(2) Gin+Vue 电子商城

618来!!不用纠结去哪里剁手了!直接自己安排一个商场不香吗??

面向生活编程 4827

CentOS7安装OpenSSL1.1.1s

CentOS7安装OpenSSL1.1.1s

Bertram的博客 732

GitHub 日榜趋势速报 | 2026-11-02

GitHub 日榜 2026-11-02:dsh-superagent-prototype、rea、t3code 等 20 个开源项目 24 小时 Star 增速领先,每日更新的开源趋势速报。

wfly blog 193

Buck电源设计常见的一些问题(五)MOS管振荡抑制方法(三)

关于开关节点振荡的产生机制和抑制问题,总结了三种抑制方法。第一种方法是利用输入端的高频去耦电容;第二种方法是设计 RC 缓冲电路;第三种方法是优化自举电路的串联电阻。以上三种方法均通过实验加以验证,对开关节点振荡具有很好的抑制作用。应该综合同步 Buck 变换器的各项指标权衡设计。

小幽余生不加糖 1632

GitHub Copilot 新手极速上手指南

本文深入解析AI编程助手在真实开发场景中的高效应用,从环境配置到进阶实战,系统讲解如何将其融入工作流,实现代码补全、自然语言生成、智能注释、测试编写及多语言协同。强调通过优化提示词、维护上下文、保障隐私安全,提升生成准确率与开发效率。最终引导开发者从“工具使用者”迈向“智能协作伙伴”,释放创造力,聚焦核心问题,完成从“码农”到“工程师”的思维跃迁。

无忧 308

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

GitHub Spec Kit 详解:规范驱动开发、AI 编码工作流与项目实践

本文介绍 GitHub Spec Kit 如何通过规范驱动开发(SDD)解决 AI 编码中需求模糊、上下文丢失、技术不一致等问题。它通过 spec.md、plan.md、tasks.md 等结构化文件,建立从需求到代码的可追溯链,确保 AI 生成代码与原始目标收敛。工具提供 CLI 命令、模板与质量检查机制,支持与 Copilot 等 AI 工具集成,适用于复杂项目管理。但需注意其非自动化、非替代项目管理工具,强调人工审查与适度规范。

十二的博客 255

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

WSL 中 Git Clone GitHub 仓库完整踩坑指南

问题最佳解法WSL 证书验证失败或重装 ca-certificates22 端口超时SSH 走缺少密钥+ 添加到 GitHub权限过宽被拒Gitee 认证失败使用 PAT 替代密码 + 清除凭据缓存--system权限拒绝改用--global或--local作用域一条黄金建议:在 WSL 中访问 GitHub,优先使用 SSH over 443。一次配置,永久解决证书、端口、认证三重问题,比 HTTPS 方式稳定得多。

dingyuana的专栏 320

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

[Playwright] [15]CI/CD 实战:Docker Compose + GitHub Actions 自动运行 E2E 测试

手动触发 GitHub Actions → Docker Compose 启动应用 → 检查服务就绪 → Playwright 执行 E2E 测试 → 上传报告 → 清理环境。通过这套流程,我不再需要每次手动启动应用并执行测试,也可以在 GitHub Actions 中查看测试结果。目前 Workflow 使用手动触发。如果有权限,理想中应该增加push或触发条件,让代码每次git push更新时自动执行 E2E 测试。

stay hungry stay foolish 218

2026年第44周GitHub趋势周报

是典型代表:基于 LangGraph 搭建的金融多 Agent 框架,复刻专业交易团队分工,拆分为基本面分析师、舆情分析师、技术面研究员、交易员、风控官、组合经理等角色,不同 Agent 互相辩论校验、交叉核验行情、财报、新闻信号,内置风控阈值、回撤监控、回测链路;分批执行、带检查点;LangGraph 构建的金融多 Agent 框架,开源配套学术论文,角色分工模拟真实资管团队,内置行情、财报、宏观数据接入、舆情信号解析、风控校验、回测模块,支持主流 LLM 切换,Apache 2.0 协议可商用。

lpfasd123的博客 575

Github Copilot 研发效能提升实战指南

在日常开发中,我们常常陷入这样的困境:面对错综复杂的业务逻辑,手动编写代码不仅耗时费力,还容易遗漏边界条件;接手遗留系统时,那些缺乏注释的“天书”代码让人望而却步;而在多语言混合的项目里,频繁切换上下文更是打断了心流。更令人头疼的是,当 API 文档缺失或团队规范执行不力时,协作效率会直线下降。这些痛点并非个别现象,而是贯穿软件全生命周期的普遍挑战。解决这些问题,不再单纯依赖程序员的个人经验或加班赶工,而是需要引入智能化的辅助策略。

fangxiang2008的博客 247

GitHub 热榜项目:日榜(2026-11-01)

这期最集中的两个方向各有三个项目:通用技能类有 mattpocock/skills、impeccable、superpowers,多智能体工作台有 OpenMausBot、t3code、Orkas。新增星数最高的则是做跨会话记忆的 claude-mem(+1,723)。 impeccable 给编码智能体一套设计指令,bolder、critique、audit 分别管强化、评审和审计,另带 62 条确定性规则抓出模板化前端缺陷,新增 1,338 星。OpenMausBot 让每个 Bot 有独立模型、提示

u130130的博客 305

GitHub 热榜项目:月榜(2026-10-31)

VoiceStudio 是完全本地运行的 AI 语音工作台,支持 646 种语言的克隆、配音和转录,新增 49,116 星。cloudflare/security-audit-skill 把编码智能体的安全审计拆成六阶段,生成可验证的 findings.json,新增 30,721 星。插件与技能的分发管理有 4 个项目,anthropics/claude-plugins-official 提供官方目录,新增 8,442 星;另外 3 个项目都在浏览器里做避免 AI 味页面的设计检查。想从本地语音入手就先试

u130130的博客 217

GitHub 日榜趋势速报 | 2026-10-31

GitHub 日榜 2026-10-31:rea、jailbreaks、dsh-our-free-model 等 20 个开源项目 24 小时 Star 增速领先,每日更新的开源趋势速报。

wfly blog 212

GitHub 热榜项目:日榜(2026-10-30)

给 AI 编码智能体配技能的项目本期最多,pbakaus/impeccable 用 24 个斜杠命令和 62 条确定性规则在交付前拦住 AI 劣质设计,新增 2,870 星;多智能体工作区另有一群,milind-soni/OpenMausBot 让多个智能体在本地虚拟机上协作,新增 1,199 星。另一个高星项目 HKUDS/DeepTutor 以三层记忆架构做个性化辅导,新增 1,930 星。

u130130的博客 490

13,500 个分支被植入窃密工作流:Gheist 如何用 GitHub 令牌搬走仓库密钥

安全厂商披露代号Gheist的攻击活动,自2026年9月起,攻击者利用窃取的GitHub令牌,在1.35万多个分支植入恶意Actions工作流,窃取密钥并清除日志,波及850余个账号,涵盖个人与企业私有仓库。攻击链依托合法自动化机制,无需外部C2,且在公共仓库因GitHub新增人工审批机制被阻断。企业环境面临云凭证枚举风险。建议实施令牌最小化、日志扫描、保留审批、及时重置凭据,并强化私有仓库防护。通过攻击模拟可验证防御有效性,提前暴露风险盲点。

塞讯科技的博客 | 塞讯安全验证 | 塞讯可观测 323

Github Copilot 高效开发实战场景指南

在日常开发中,我们常常陷入一种怪圈:业务逻辑越写越复杂,改一个字段要动五六处代码;面对几年前的遗留系统,想加个测试用例却无从下手;团队新人入职,光是配环境、学规范就耗去大半周时间。这些痛点并非个别现象,而是大多数技术团队在快速迭代中必然遇到的瓶颈。很多时候,我们并不是缺乏技术能力,而是缺少一套系统化的辅助策略,让重复劳动自动化,让模糊逻辑清晰化,让协作成本最小化。如果你正被繁琐的样板代码困扰,或者在重构老项目时感到力不从心,那么本文分享的十个实战方向或许能为你提供新的解题思路。

2604_97005292的博客 520

Java工具篇之GitHub:用Pull Request完成一次协作交付

用完整Java示例串起GitHub协作:准备仓库、推送工作分支、创建Pull Request、运行自动检查、选择合并策略,再同步本地main。结合独立仓库实验讲清远程引用、PR审查与交付闭环。

code2cat的博客 667
上一篇: LeWM世界模型全解:只用两项损失,根治世界模型表征崩溃问题
下一篇: 从VAE到LeWM:具身智能世界模型学习路线与踩坑全记录
无你想你
博客等级 码龄5年 428粉丝 123原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值