Para penulis mengusulkan MILES (Modular Instruction Memory with LEarnable Selection), sebuah kerangka kerja yang dirancang untuk meningkatkan penalaran model bahasa besar pada saat pengujian dengan secara dinamis mengakumulasi pengalaman yang dapat digunakan kembali di antara masalah yang tiba secara berurutan. Berbeda dengan metode yang ada yang menyimpan template kaku atau menggunakan seleksi heuristik, MILES mempertahankan unit memori modular yang terdiri dari pasangan asimetris embedding sub-tujuan dan sub-instruksi, masing-masing terkait dengan kepala seleksi yang dapat dipelajari.
- Kerangka kerja ini menerapkan mekanisme pengambilan dari kasar ke halus di mana tingkat kasar memungkinkan ekspansi memori dan mengumpulkan supervisi dari sampel yang percaya diri.
- Tahap halus menerapkan kepala seleksi yang telah dipelajari untuk meranking ulang kandidat dan membimbing penalaran untuk sampel yang tidak pasti.
- Pendekatan ini memungkinkan ekspansi memori inkremental di bawah batasan pengujian waktu nyata dengan supervisi terbatas.
Eksperimen ekstensif menunjukkan bahwa MILES secara konsisten menyamai atau mengungguli metode sebelumnya sambil mencapai tradeoff akurasi-efisiensi yang lebih unggul, ketahanan, dan kemampuan transfer.