Pesquisadores apresentam o RoboTTT, uma receita de treinamento que estende o contexto visuomotor para modelos fundamentais de robótica até 8.000 etapas sem aumentar a latência de inferência. O método integra Treinamento no Momento do Teste em políticas Visão-Linguagem-Ação usando pesos rápidos atualizados por descida de gradiente durante tanto o treinamento quanto a inferência.
- O comprimento do contexto é escalado usando forçamento de ação sequencial combinado com retropropagação truncada através do tempo.
- A abordagem permite imitação in-contexto em um único passo, melhoria da política em tempo real e robustez a perturbações.
- O RoboTTT melhora o desempenho geral em 87% em relação às linhas de base de passo único e conclui uma tarefa de montagem de cinco minutos e dez estágios que outros modelos não conseguem finalizar.
- Modelos treinados com contexto de 8 mil etapas superam aqueles pré-treinados com 1 mil etapas em 62%, estabelecendo o comprimento do contexto como um novo eixo de escalonamento.
Os autores consideram isso significativo porque desbloqueia capacidades para tarefas multiestágio e de longo prazo e demonstra ganhos constantes no desempenho em loop fechado à medida que o contexto de pré-treinamento escala.