Une étude révèle que des juges LLM biaisés peuvent désactiver silencieusement le mécanisme de "retraite des compétences" dans les agents auto-évoluants, les empêchant de jeter les mauvaises compétences. Cela se produit car le biais de faux positifs permet aux échecs de passer inaperçus comme des succès, désactivant efficacement le conservateur qui maintient la qualité de la bibliothèque de compétences.
- Le bruit symétrique n'affecte pas la retraite, mais le biais de faux positifs désactive la retraite basée sur la contribution au-delà d'un seuil abrupt.
- La défaillance du mécanisme est universelle entre les domaines et les taux d'échec, épargnant uniquement les évaluateurs de type vérificateur avec un taux de faux positif proche de zéro.
La qualité de l'évaluation en aval ne se dégrade que là où la corruption affame également la synthèse des compétences ; sinon, les performances restent stables.
- Un audit d'injection de défauts peut déterminer si un juge opère du côté sûr du seuil avant le déploiement.
La recherche met en évidence que les conservateurs désactivés restent silencieux dans les métriques agrégées, posant un risque caché pour la fiabilité des agents.