Sebuah survei terhadap 1.250 makalah arXiv yang diterbitkan antara 2024 dan 2026 menganalisis sistem AI yang berpartisipasi dalam perbaikan mereka sendiri melalui mekanisme seperti self-refine, self-reward, dan self-play. Penulis mengusulkan taksonomi yang memisahkan perbaikan diri terbatas, yang bersifat konvergen dan sudah digunakan di industri, dari peningkatan diri rekursif terbuka (RSI), yang tetap dibatasi oleh persyaratan grounding dan kendala komputasi.
- Taksonomi mengklasifikasikan perbaikan berdasarkan apa yang diperbaiki (perilaku, kebijakan, evaluator, atau proses penelitian) dan tingkat penutupan loop.
- Evaluasi diri diidentifikasi sebagai fitur khas, di mana setiap loop perbaikan mengklaim bahwa sinyal dapat menggantikan penilaian manusia.
- Hierarki verifikasi mengurutkan sinyal dari verifier formal hingga penilaian intrinsik, dengan kekuatan perbaikan yang terbukti mengikuti urutan ini.
- Mode kegagalan seperti keruntuhan model dan keruntuhan keanekaragaman dikaitkan dengan pelanggaran hierarki ini.
- Bottleneck penentuan arah penelitian menjaga manusia tetap dalam loop di puncak hierarki.
Karya ini menghubungkan literatur teknis dengan batas RSI dan tata kelola keamanan, mengidentifikasi pengukuran peningkatan diri tingkat tata kelola sebagai ceruk kritis yang kurang terisi.