文章核心总结
主要内容
该研究针对多智能体强化学习(MARL)中环境建模的高复杂度问题,提出了一种受扩散模型启发的多智能体世界模型(DIMA)。通过将多智能体动态预测重构为条件去噪过程,DIMA采用集中式建模方案,在保持全局一致性的同时,使计算复杂度随智能体数量线性增长。研究在MAMuJoCo和Bi-DexHands等连续控制基准测试中验证了DIMA的优越性,其在样本效率和最终回报上显著优于现有模型基和无模型MARL方法。
核心创新点
- 扩散启发的建模视角:将多智能体状态转移的不确定性递减过程与扩散模型的去噪过程关联,把动态预测转化为条件去噪任务,避免了联合动作空间的指数级增长。
- 高效集中式架构:DIMA采用集中式建模但复杂度与智能体数量线性相关,无需额外通信或聚合模块,解决了传统集中式模型的计算瓶颈。
- 理论与工程结合:推导了对应的证据下界(ELBO),基于EDM框架实现模型训练,并整合“想象学习”范式优化策略,兼顾理论严谨性与实用性能。
- 强泛化与稳定性:在长 horizon 预测中表现出低累积误差,且保持置换不变性,在低数据场景下仍能稳定收敛。
翻译部分(Markdown格式)
Abstract
世界模型近年来在多智能体强化
订阅专栏 解锁全文
734



被折叠的 条评论
为什么被折叠?



