연구에 따르면 편향된 LLM 심판관은 자기 진화 에이전트에서 "기술 은퇴" 메커니즘을 조용히 비활성화하여 품질이 낮은 기술을 폐기하지 못하게 합니다. 이는 거짓 양성 편향이 실패를 통과로 넘어가게 하여 결과적으로 기술 라이브러리 품질을 유지하는 큐레이터를 끄기 때문입니다.
- 대칭 잡음은 은퇴에 영향을 주지 않지만, 거짓 양성 편향은 날카로운 임계값을 지나 기여 기반 은퇴를 비활성화합니다.
- 이 메커니즘 결함은 도메인과 실패율 전반에 걸쳐 보편적이며, 거의 영의 거짓 양성을 가진 검증자 같은 채점자만 제외됩니다.
- 하위 평가 품질은 부패가 기술 합성도 기아 상태로 만들 때만 저하되며, 그렇지 않으면 성능은 안정적으로 유지됩니다.
- 결함 주입 감사를 통해 배포 전에 심판관이 임계값의 안전한 쪽에서 작동하는지 확인할 수 있습니다.
이 연구는 비활성화된 큐레이터가 집계 지표에서는 침묵하고 있음을 강조하며, 에이전트 신뢰성에 대한 숨겨진 위험을 제기합니다.