연구자들은 시각운동 컨텍스트를 추론 지연 시간 증가 없이 8,000 타임스텝까지 확장하는 로봇 파운데이션 모델을 위한 학습 레시피인 RoboTTT를 소개합니다. 이 방법은 훈련 및 추론 모두에서 경사 하강법을 통해 업데이트되는 빠른 가중치를 사용하여 Vision-Language-Action 정책에 테스트 타임 트레이닝을 통합합니다.

  • 컨텍스트 길이는 시퀀스 액션 포싱과 시간 경과에 따른 잘린 역전파를 결합하여 확장됩니다.
  • 이 접근 방식은 원샷 인컨텍스트 모방, 실시간 정책 개선 및 섭동에 대한 강건성을 가능하게 합니다.
  • RoboTTT는 단일 단계 기반 모델 대비 전체 성능을 87% 향상시키며, 다른 모델들이 완료하지 못하는 5분간 10단계 조립 작업을 완수합니다.
  • 8K 타임스텝 컨텍스트로 훈련된 모델은 1K 타임스텝으로 사전 훈련된 모델보다 62% 더 우수한 성능을 보이며, 컨텍스트 길이를 새로운 확장 축으로 확립합니다.

저자들은 이것이 다단계 장기 관측 작업에 대한 능력을 열어주고 사전 훈련 컨텍스트가 확장됨에 따라 폐루프 성능에서 꾸준한 개선을 보여주기 때문에 중요하다고 간주합니다.