Untuk meningkatkan keandalan saat menghasilkan output terstruktur dari model bahasa besar, sebuah metode diusulkan yang mengembalikan kesalahan validasi dan output sebelumnya dari model ke dalam prompt selama percobaan ulang. Pendekatan ini mengubah proses dari pengacakan respons acak menjadi koreksi diri atas kesalahan spesifik dengan mengedit upaya sebelumnya.
- Teknik ini melibatkan penangkapan kesalahan validasi dan penambahan pesan yang berisi kesalahan yang diformat dan respons sebelumnya yang diserialisasi ke dalam prompt berikutnya.
- Kesalahan harus dijelaskan dalam istilah yang dapat dipahami oleh model, seperti menentukan bahwa sebuah bidang memerlukan bilangan bulat tetapi menerima string.
- Output sebelumnya dari model disertakan agar model dapat mengedit bagian-bagian yang salah secara spesifik daripada menghasilkan ulang seluruh respons.
- Pertukaran yang terlibat termasuk latensi yang meningkat dari panggilan tambahan dan prompt yang lebih panjang saat kegagalan, sehingga diperlukan batas pada jumlah percobaan.
- Metode ini hanya berfungsi ketika output yang tidak valid cukup dapat diurai untuk dimasukkan kembali ke dalam model.
Strategi ini membantu pengguna mencapai output terstruktur yang lebih andal dengan memanfaatkan kemampuan model untuk memperbaiki kesalahannya sendiri daripada mengandalkan percobaan ulang acak.