Peneliti memperkenalkan metode eksekusi spekulatif untuk agen LLM yang melengkapi spekulator dengan tiga sistem memori online untuk belajar dari lintasan masa lalu, mengatasi keterbatasan spekulator stateless yang ada. Pendekatan ini memanfaatkan tabel transisi kontras, memori episodik, dan pelacak kebingungan untuk meningkatkan kualitas prediksi seiring waktu.
- Spekulasi yang diperkaya memori menghasilkan peningkatan akurasi relatif 19--39% pada benchmark prediksi aksi.
- Tugas prediksi pengamatan mengalami peningkatan kinerja hingga 2,5x dengan ruang aksi repetitif.
- Peningkatan terus tumbuh saat memori terakumulasi dan bergeneralisasi di seluruh model spekulator dengan biaya yang bervariasi.
- Semua eksekusi spekulatif berjalan selama waktu idle, menghasilkan nol biaya tambahan pada jam dinding dan lintasan aktor yang identik.
Metode ini memberikan akselerasi tanpa kehilangan untuk agen LLM dengan memanfaatkan data historis untuk meningkatkan akurasi prediksi tanpa memengaruhi kecepatan atau kebenaran eksekusi.