NVIDIA memperkenalkan RoboTTT, model dasar robot dan resep pelatihan yang memperluas konteks visuomotor hingga 8.000 timestep tanpa meningkatkan latensi inferensi. Dengan mengintegrasikan Test-Time Training ke dalam kebijakan Vision-Language-Action, sistem ini memadatkan riwayat ke ruang bobot menggunakan fast weights yang diperbarui oleh gradient descent.
- Memungkinkan in-context imitation satu-shot dari demonstrasi video manusia dan peningkatan kebijakan secara langsung.
- Mencapai ketahanan terhadap gangguan dan kinerja lebih kuat pada tugas multi-tahap berjangka panjang.
- Meningkatkan kinerja keseluruhan sebesar 87% dibandingkan baseline konteks single-step pada tugas manipulasi robot nyata.
- Menyelesaikan sepenuhnya tugas perakitan lima menit, sepuluh tahap yang tidak dapat diselesaikan oleh baseline mana pun.
- Mengungguli model yang dilatih sebelumnya dengan 1.000 timestep sebesar 62%, menetapkan panjang konteks sebagai sumbu penskalaan baru.
Para penulis menganggap ini penting karena membuka kemampuan baru untuk model dasar robot dan menunjukkan peningkatan berkelanjutan dalam kinerja closed-loop seiring bertambahnya panjang konteks pretraining.