RVT-2: Learning Precise Manipulation from Few Demonstrations

是对上一篇RVT 的改进。

发表时间：12 Jun 2024

作者单位：NVIDIA

Motivation：为了在工业和家庭领域很有用，这样的系统应该能够用很少的演示来学习新任务，并精确地解决它们。先前的工作，如PerAct[40]和RVT[17]，已经研究了这个问题，但是，它们通常难以处理需要高精度的任务。

解决方法：我们研究了如何使它们更有效、准确和快速。使用架构和系统级改进的组合，我们提出了 RVT-2，这是一种多任务 3D 操作模型，在训练中快 6 倍，推理速度比其前身 RVT 快 2 倍。with just 10 demonstrations

实现方式：我们的动机是思考什么防止 RVT 实现更高的性能的问题。经过仔细分析，我们发现RVT很难处理需要高精度的任务，如螺丝灯泡或插入钉子。在我们的分析中，我们还确定了几个改进来进一步提高系统的训练和推理速度。通过我们的架构和系统级的改进，我们能够提高RVT的速度和有效性。To the best of our knowledge, this is the first time a visionbased policy trained with a few examples has been tested to work on such high-precision tasks.

RVT-2 基于基于关键帧的操作范式。我们将这些改进分为两类：与神经网络变化相关的架构，以及与软件优化相关的系统相关架构。

Background：

Key-frame