PraMem adalah pendekatan baru untuk prediksi perilaku jangka panjang yang mengatasi keterbatasan model bahasa besar dalam menginduksi pola perilaku laten dan mengatasi bias kognitif. Alih-alih memadatkan data historis, ia melakukan latihan sebelumnya atas urutan yang panjang untuk membangun memori pengalaman yang digunakan sebagai input bantuan.
- Membingkai ulang urutan historis dari beban menjadi sumber daya berharga untuk dieksploitasi.
- Membangun memori pengalaman melalui latihan sebelumnya pada urutan historis.
- Menggunakan memori ini sebagai input bantuan untuk meningkatkan akurasi prediksi.
- Menunjukkan kinerja yang unggul dibandingkan metode sebelumnya di berbagai tugas.
Para penulis menganggap ini signifikan karena menyelesaikan tantangan inti dalam prediksi jangka panjang dengan memanfaatkan sejarah alih-alih hanya meringankan bebannya.