研究人员提出了与任务无关的预训练(TAP),这是一个两阶段框架,旨在通过将物理能力与语义对齐解耦来解决视觉-语言-动作(VLA)模型中专家演示数据稀缺的问题。该方法首先通过自监督逆动力学目标从未标记的交互数据中学习可迁移的运动先验,然后使用最少的专家数据将这些先验锚定到语言上。

  • TAP 在仅使用少得多的标记数据的情况下,达到了在超过100万条专家轨迹上训练的模型的性能水平。
  • 在 SIMPLER 基准测试中,该方法比标准行为克隆取得了10%的绝对提升。
  • 在真实的 WidowX 平台上,TAP 在相机扰动下仍保持25%的成功率,而互联网规模的基线方法则降至0%。

这表明与任务无关的预训练能够产生鲁棒且可迁移的物理表示,并为具身智能(Embodied AI)提供了一条可扩展的前进路径。