Para peneliti memperkenalkan MemCon, sebuah kerangka kerja yang memodelkan operasi memori sebagai Proses Keputusan Markov untuk mempelajari kebijakan daring untuk pengambilan dan pengonsolidasian adaptif pada agen LLM. Berbeda dengan heuristik statis, pendekatan ini secara dinamis memutuskan kapan dan berapa banyak untuk mengambil berdasarkan konteks.
- MemCon membungkus implementasi memori apa pun yang ada dan belajar dari umpan balik biner per tugas tanpa pra-pelatihan atau panggilan LLM tambahan.
- Ini menggunakan bandit kontekstual tabel ringan dengan eksplorasi UCB yang konvergen dalam beberapa puluh tugas.
- Di seluruh 6 benchmark, 3 kerangka kerja agen, dan 3 tulang punggung LLM, MemCon mengungguli baseline hingga 15.2 poin dalam keberhasilan tugas.
- Metode ini mengurangi konsumsi token sebesar 5--20% sambil meningkatkan kinerja.
MemCon mengatasi hambatan akses memori tetap dengan memungkinkan agen mengelola akumulasi pengalaman dan rencana penggunaan ulang secara adaptif.