Les chercheurs présentent RoboTTT, une méthode d'entraînement qui étend le contexte visuo-moteur des modèles de base pour robots jusqu'à 8 000 pas de temps sans augmenter la latence d'inférence. La méthode intègre l'entraînement au moment du test (Test-Time Training) dans les politiques Vision-Language-Action en utilisant des poids rapides mis à jour par descente de gradient pendant l'entraînement et l'inférence.
- La longueur du contexte est étendue en combinant la forçage d'action séquentielle avec la rétropropagation tronquée à travers le temps.
- L'approche permet l'imitation in-contexte en un seul exemple, l'amélioration en temps réel des politiques et la robustesse aux perturbations.
- RoboTTT améliore les performances globales de 87 % par rapport aux lignes de base à pas unique et accomplit une tâche d'assemblage de cinq minutes et dix étapes que d'autres modèles ne parviennent pas à terminer.
- Les modèles entraînés avec un contexte de 8 000 pas de temps surpassent ceux préentraînés avec 1 000 pas de temps de 62 %, établissant la longueur du contexte comme un nouvel axe de mise à l'échelle.
Les auteurs considèrent cela comme significatif car cela débloque des capacités pour les tâches multi-étapes et à long terme, et démontre des gains réguliers dans les performances en boucle fermée lorsque le contexte de préentraînement s'étend.