世界模型再进化!博世AdaWM:自适应世界模型规划新SOTA~

编辑 | 自动驾驶专栏

点击下方卡片,关注“自动驾驶之心”公众号

戳我-> 领取自动驾驶近15个方向学习路线

>>点击进入→自动驾驶之心世界模型技术交流群

本文只做学术分享,如有侵权,联系删文

2476c21a21a678cec05741d5ac19c5d0.png

  • 论文链接:https://arxiv.org/pdf/2501.13072

d3ed00e51eaee5fbf69682967f6f9ecd.jpeg

摘要

c9137185a9f5044d4f3c111f75e34fca.png

本文介绍了AdaWM:基于自适应世界模型的自动驾驶规划。基于世界模型的强化学习(RL)已经成为一种有前景的自动驾驶方法,它学习潜在动态模型并且用其训练规划策略。为了加快学习过程,通常使用预训练-微调范式,其中在线RL由预训练模型和离线学习的策略来初始化。然而,在RL中朴素地执行这类初始化可能会导致新任务中的在线交互期间性能急剧下降。为了应对这一挑战,本文首先分析了性能下降问题,并且确定了两个主要根本原因:规划策略的不匹配和动态模型的不匹配(由分布偏移导致)。本文进一步分析了这些因素对微调过程中性能下降的影响,研究结果表明,微调策略的选择在缓解这些影响方面发挥着关键作用。然后,本文引入了AdaWM,这是一种基于自适应世界模型的规划方法,其具有两个关键步骤:(a)不匹配识别,它量化了不匹配并且告知微调策略;(b)对齐驱动的微调,它使用高效的低秩更新选择性地更新策略或者模型。本文在具有挑战性的CARLA驾驶任务上进行实验,结果表明,AdaWM显著地改进了微调过程,使自动驾驶系统的性能更为鲁棒和高效。

d43c25c41834ed11bb1b3c57cbc96a35.jpeg

主要贡献

5003ea3cde04d6a93bc16c53f15abafd.png

本文的主要贡献总结如下:

1)本文量化了微调过程中观测到的性能差距,并且确定了两个主要根本原因:(1)动态模型不匹配;(2)策略不匹配。然后,评估每种原因对微调性能的相应影响;

2)本文引入了AdaWM,这是一种基于自适应世界模型的自动驾驶规划方法,它通过两个关键步骤实现了有效的微调:(1)不匹配识别;(2)对齐驱动的微调。此外,AdaWM分别为动态模型和策略引入了高效的更新方法;

3)本文在具有挑战性的CARLA环境中的多个任务上验证了AdaWM,展现了它在路径成功率(SR)和碰撞时间(TTC)方面实现卓越性能的能力。实验结果表明,AdaWM有效地缓解了各种新任务的性能下降问题,证实了识别和解决微调过程中不匹配的重要性。

bb093f3450ab9ed5346c3e2cad179206.jpeg

论文图片和表格

7c2c2bf42b0d0e7560bf7b92ce850607.png

a5a4de1bc04e611e90142ca5cdcaed56.png

86ba1a3e5432d8a98f5ba26b206a013b.png

2d558766aa94dd0cf20bffdb68ae21c0.png

b2ee74669a2c8027da52b1e3a2ccd27f.png

c7c31249dad4366becb2a636fc435fab.png

430a538dc32c420a3fd31a4cf7c5a7f0.png

eb0c6525b0a83c8e0bbe64184e3263bd.png

73b19b196610fe41192d552ba9bb9e51.png

cb4e0090dbb061a9b30792df8487c729.png

7ce8c415c499195067e91d29aa602e05.png

002891ae108d00e2bfb6db59869776a9.jpeg

总结

719865a783ad4f6e779f41698431d6d6.png

本项工作提出了AdaWM,这是一种基于自适应世界模型的规划方法,它缓解了自动驾驶中基于世界模型的强化学习(RL)的性能下降问题。根据理论分析,本文确定了导致性能下降的两个主要原因:动态模型不匹配和策略不匹配。本文提出了具有两个核心组件的AdaWM:不匹配识别和对齐驱动的微调。AdaWM评估了性能下降的主要来源,并且根据识别的不匹配对动态模型或者策略应用选择性低秩更新。在CARLA上的大量实验表明,AdaWM显著地提高了路径成功率和碰撞时间,验证了其有效性。本项工作强调了在解决具有挑战性的现实世界任务时选择高效且鲁棒的微调策略的重要性。未来研究存在若干条有前景的途径。首先,探索将AdaWM应用于自动驾驶以外的其它领域能够扩大其适用性。此外,将AdaWM扩展到考虑智能体之间交互的多智能体环境中,可以进一步提高其在复杂现实世界环境中的鲁棒性。

① 2025中国国际新能源技术展会

自动驾驶之心联合主办中国国际新能源汽车技术、零部件及服务展会。展会将于2025年2月21日至24日在北京新国展二期举行,展览面积达到2万平方米,预计吸引来自世界各地的400多家参展商和2万名专业观众。作为新能源汽车领域的专业展,它将全面展示新能源汽车行业的最新成果和发展趋势,同期围绕个各关键板块举办论坛,欢迎报名参加。

31c72b42f18b11524f0394e3b25dcb14.jpeg

② 国内首个自动驾驶学习社区

『自动驾驶之心知识星球』近4000人的交流社区,已得到大多数自动驾驶公司的认可!涉及30+自动驾驶技术栈学习路线,从0到一带你入门自动驾驶感知端到端自动驾驶世界模型仿真闭环2D/3D检测、语义分割、车道线、BEV感知、Occupancy、多传感器融合、多传感器标定、目标跟踪)、自动驾驶定位建图SLAM、高精地图、局部在线地图)、自动驾驶规划控制/轨迹预测等领域技术方案大模型,更有行业动态和岗位发布!欢迎扫描加入

904c6715791cb3c002bbdc8a00b31fee.png

 ③全网独家视频课程

端到端自动驾驶、仿真测试、自动驾驶C++、BEV感知、BEV模型部署、BEV目标跟踪、毫米波雷达视觉融合多传感器标定多传感器融合多模态3D目标检测车道线检测轨迹预测在线高精地图世界模型点云3D目标检测目标跟踪Occupancy、CUDA与TensorRT模型部署大模型与自动驾驶NeRF语义分割自动驾驶仿真、传感器部署、决策规划、轨迹预测等多个方向学习视频(扫码即可学习

8603ee9fdac32bef45196622cdcb0cbf.png

网页端官网:www.zdjszx.com

④【自动驾驶之心】全平台矩阵

d9ab217e7d3c8ef5a0af06f918e6dfc1.png

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值