Uma análise de 1.250 artigos do arXiv publicados entre 2024 e 2026 examina sistemas de IA que participam de sua própria melhoria por meio de mecanismos como self-refine, self-reward e self-play. Os autores propõem uma taxonomia que separa o autoaperfeiçoamento limitado (bounded self-refinement), que é convergente e já usado na indústria, da melhoria recursiva aberta (RSI), que ainda é limitada pelos requisitos de fundamentação (grounding) e restrições de computação.
- A taxonomia classifica as melhorias com base no que é melhorado (comportamento, política, avaliador ou processo de pesquisa) e no grau de fechamento do loop.
- A autoavaliação (self-evaluation) é identificada como uma característica distintiva, onde cada loop de melhoria afirma que um sinal pode substituir o julgamento humano.
- Uma hierarquia de verificação ordena os sinais desde verificadores formais até a autoavaliação intrínseca, com a força da melhoria demonstrada seguindo essa ordem.
- Modos de falha como colapso do modelo e colapso da diversidade estão ligados a violações dessa hierarquia.
- O gargalo na definição da direção da pesquisa mantém os humanos no loop no topo da hierarquia.
O trabalho conecta a literatura técnica aos limites da RSI e à governança de segurança, identificando a medição de nível de governança (governance-grade measurement) do autoaperfeiçoamento como uma nicho crítico pouco explorado.