Sebuah studi mengungkapkan bahwa hakim LLM yang bias dapat secara diam-diam menonaktifkan mekanisme "pensiun keterampilan" pada agen yang berevolusi sendiri, mencegah mereka membuang keterampilan yang buruk. Hal ini terjadi karena bias false-pass memungkinkan kegagalan lolos sebagai keberhasilan, secara efektif mematikan kurator yang menjaga kualitas perpustakaan keterampilan.
- Noise simetris tidak mempengaruhi pensiun, tetapi bias false-pass menonaktifkan pensiun berbasis kontribusi melewati ambang batas yang tajam.
- Kegagalan mekanisme ini universal di seluruh domain dan tingkat kegagalan, hanya mengabaikan penilai seperti verifier dengan false-pass mendekati nol.
- Kualitas evaluasi downstream hanya menurun di mana korupsi juga membuat sintesis keterampilan kelaparan; jika tidak, kinerja tetap stabil.
- Audit injeksi cacat dapat menentukan apakah hakim beroperasi di sisi aman dari ambang batas sebelum deployment.
Penelitian ini menyoroti bahwa kurator yang dinonaktifkan tetap diam dalam metrik agregat, menimbulkan risiko tersembunyi bagi keandalan agen.