Un estudio de 1.250 artículos de arXiv publicados entre 2024 y 2026 analiza sistemas de IA que participan en su propia mejora a través de mecanismos como self-refine, self-reward y self-play. Los autores proponen una taxonomía que separa el auto-perfeccionamiento acotado (bounded self-refinement), que es convergente y ya se usa en la industria, de la mejora recursiva abierta (RSI), que sigue limitada por los requisitos de fundamentación (grounding) y las restricciones de cómputo.
- La taxonomía clasifica las mejoras según lo que se mejora (comportamiento, política, evaluador o proceso de investigación) y el grado de cierre del bucle.
- La autoevaluación (self-evaluation) se identifica como una característica distintiva, donde cada bucle de mejora afirma que una señal puede sustituir al juicio humano.
- Una jerarquía de verificación ordena las señales desde verificadores formales hasta la autoevaluación intrínseca, con la fuerza de la mejora demostrada siguiendo este orden.
- Los modos de fallo como el colapso del modelo y el colapso de la diversidad están vinculados a violaciones de esta jerarquía.
- El cuello de botella en la fijación de la dirección de la investigación mantiene a los humanos en el bucle en la cima de la jerarquía.
El trabajo conecta la literatura técnica con los límites de RSI y la gobernanza de la seguridad, identificando la medición de nivel de gobernanza (governance-grade measurement) del auto-perfeccionamiento como una nicho crítico poco poblado.