研究人员推出了RoboTTT，这是一种训练方案，可将机器人基础模型的视觉运动上下文扩展至8,000个时间步，同时不增加推理延迟。该方法通过将测试时训练（Test-Time Training）整合到视觉-语言-动作（Vision-Language-Action）策略中，利用在训练和推理期间通过梯度下降更新的高速权重来实现。

  • 使用序列动作强制结合截断的随时间反向传播来扩展上下文长度。
  • 该方法支持一次性上下文内模仿、即时策略改进以及对扰动的鲁棒性。
  • RoboTTT的整体性能比单步基线提高了87%，并完成了其他模型无法完成的五分钟、十个阶段的装配任务。
  • 使用8K时间步上下文训练的模型比使用1K时间步预训练的模型性能高出62%，确立了上下文长度作为新的缩放轴。

作者认为这具有重要意义，因为它解锁了多阶段长视野任务的能力，并展示了随着预训练上下文扩展而持续提升的闭环性能。