Los investigadores presentan RoboTTT, una receta de entrenamiento que extiende el contexto visuomotor para modelos base de robots hasta 8.000 pasos de tiempo sin aumentar la latencia de inferencia. El método integra el Entrenamiento en Tiempo de Prueba (Test-Time Training) en políticas Visión-Lenguaje-Acción mediante el uso de pesos rápidos actualizados por descenso de gradiente durante tanto el entrenamiento como la inferencia.
- La longitud del contexto se escala utilizando forzado de acción secuencial combinado con retropropagación truncada a través del tiempo.
- El enfoque permite imitación in-contexto de un solo paso, mejora de políticas en tiempo real y robustez ante perturbaciones.
- RoboTTT mejora el rendimiento general en un 87% respecto a las líneas base de un solo paso y completa una tarea de ensamblaje de cinco minutos y diez etapas que otros modelos no logran terminar.
- Los modelos entrenados con un contexto de 8K pasos de tiempo superan en un 62% a los preentrenados con 1K pasos, estableciendo la longitud del contexto como un nuevo eje de escalado.
Los autores consideran esto significativo porque desbloquea capacidades para tareas multi-etapa y de largo alcance, y demuestra ganancias constantes en el rendimiento de bucle cerrado a medida que escala el contexto de preentrenamiento.