是对上一篇RVT 的改进。
发表时间:12 Jun 2024
作者单位:NVIDIA
Motivation:为了在工业和家庭领域很有用,这样的系统应该能够用很少的演示来学习新任务,并精确地解决它们。先前的工作,如PerAct[40]和RVT[17],已经研究了这个问题,但是,它们通常难以处理需要高精度的任务。
解决方法:我们研究了如何使它们更有效、准确和快速。使用架构和系统级改进的组合,我们提出了 RVT-2,这是一种多任务 3D 操作模型,在训练中快 6 倍,推理速度比其前身 RVT 快 2 倍。with just 10 demonstrations
实现方式:我们的动机是思考什么防止 RVT 实现更高的性能的问题。经过仔细分析,我们发现RVT很难处理需要高精度的任务,如螺丝灯泡或插入钉子。在我们的分析中,我们还确定了几个改进来进一步提高系统的训练和推理速度。通过我们的架构和系统级的改进,我们能够提高RVT的速度和有效性。To the best of our knowledge, this is the first time a visionbased policy trained with a few examples has been tested to work on such high-precision tasks.
RVT-2 基于基于关键帧的操作范式。我们将这些改进分为两类:与神经网络变化相关的架构,以及与软件优化相关的系统相关架构。
Background:
Key-frame