文章核心总结与翻译
一、主要内容
文章针对强化学习中智能体在未知环境条件下的零样本泛化问题,提出了Dynamics-Aligned Latent Imagination(DALI)框架。该框架基于DreamerV3架构,通过自监督上下文编码器从智能体与环境的交互中推断潜在上下文表示(如重力、摩擦力等难以直接测量的参数),并将其融入世界模型和策略学习,实现无需重新训练即可适应 unseen 环境的零样本泛化。在DMC Ball-in-Cup和Walker Walk等基准任务中,DALI显著优于无上下文感知基线,在 extrapolation 任务中常超越有真实上下文的基线模型。
二、创新点
- 提出自监督上下文编码器:通过前向动力学损失和跨模态正则化,从短交互窗口中高效提取环境动态相关的上下文表示,解决了传统方法依赖显式上下文变量的局限。
- 理论支撑:证明了专用上下文编码器对鲁棒泛化的必要性,其能以近最优样本复杂度推断潜在上下文,缓解部分可观测环境中的信息瓶颈。
- 物理一致性反事实推理:学习到的潜在空间具有物理合理性,扰动编码重力等物理参数的维度时,想象轨迹会呈现符合现实物理规律的变化。
- 灵活集成策略:设计浅集成和深集成两种方式将上下文表示融入DreamerV3,在不显著增加计算开销的前提下提升泛化性能。
三、关键部分翻译(Markdown格式)
Abstract
现
订阅专栏 解锁全文
716



被折叠的 条评论
为什么被折叠?



