一、文章主要内容总结
文章针对持续强化学习(CRL)缺乏标准化基准、计算成本高、视觉类3D环境稀缺等问题,提出了基于ViZDoom引擎的CRL基准COOM(Continual DOOM)。该基准包含8个视觉和目标各异的3D场景,构建了6类不同长度和模态的任务序列(跨域CD系列、跨目标CO系列、挑战型COC系列),以评估智能体的灾难性遗忘、知识迁移和样本高效学习能力。通过对正则化、结构型、回放型等主流持续学习方法的实验验证,发现PackNet和ClonEx-SAC表现最优,同时揭示了评论者正则化、单输出头架构对CRL性能的负面影响,为后续算法优化提供了关键洞察。
二、创新点
- 首个聚焦视觉3D环境+多目标的CRL基准,填补了现有基准在视觉多样性和任务目标差异性上的空白。
- 设计多模态任务序列,既包含视觉变化一致但目标固定的跨域序列,也包含目标差异显著的跨目标序列,还新增高难度挑战序列COC,满足不同研究需求。
- 建立统一评估指标(平均性能AP、遗忘率F、前向迁移FT)和标准化实验流程,支持公平对比不同CRL方法。
- 深入分析网络可塑性、动作分布变化及方法变体(图像增强、LSTM集成等)的影响,为CRL算法设计提供新方向。
三、核心部分翻译(Markdown格式)
Abstract
持续强化学习(RL)的发展面临诸多障碍,包括缺乏标准化指标和评估协议、计算需求高昂以及缺少广泛认可的标准基准。为应对这
订阅专栏 解锁全文
1250



被折叠的 条评论
为什么被折叠?



