Анализ 1250 статей из arXiv, опубликованных в период с 2024 по 2026 год, рассматривает ИИ-системы, участвующие в собственном улучшении через механизмы вроде self-refine, self-reward и self-play. Авторы предлагают таксономию, разделяющую ограниченное самосовершенствование (bounded self-refinement), которое является сходящимся и уже применяется в индустрии, от неограниченного рекурсивного самоусовершенствования (RSI), которое остается ограниченным требованиями к заземлению (grounding) и вычислительными ограничениями.
- Таксономия классифицирует улучшения на основе того, что именно улучшается (поведение, политика, оценщик или исследовательский процесс), а также степени замыкания цикла.
- Самoopценка (self-evaluation) выделяется как отличительная особенность: каждый цикл улучшения утверждает, что сигнал может заменить человеческое суждение.
- Иерархия верификации упорядочивает сигналы от формальных верификаторов до внутренней самооценки, при этом сила продемонстрированного улучшения следует этому порядку.
- Режимы отказа, такие как коллапс модели и коллапс разнообразия, связаны с нарушением этой иерархии.
- Узкое место в определении направления исследований оставляет людей в контуре на вершине иерархии.
Работа связывает техническую литературу с пределами RSI и управлением безопасностью, выявляя измерение уровня управления (governance-grade measurement) самоусовершенствования как критическую малоизученную нишу.