一项针对2024年至2026年间发表的1,250篇arXiv论文的分析，研究了通过self-refine、self-reward和self-play等机制参与自身改进的AI系统。作者提出了一种分类法，将有界自我完善（bounded self-refinement）——这是一种收敛性的且已在行业中使用的机制——与开放式递归自我改进（RSI）区分开来，后者仍受限于接地要求（grounding requirements）和计算约束。

  • 该分类法根据改进的对象（行为、策略、评估器或研究过程）以及闭环的程度对改进进行分类。
  • 自我评估（self-evaluation）被确定为一种独特特征，其中每个改进循环都声称信号可以替代人类判断。
  • 验证层次结构将信号从形式化验证器排序到内在自我评估，已证明的改进强度遵循此顺序。
  • 模型崩溃和多样性崩溃等故障模式与该层次结构的违反有关。
  • 研究方向设定的瓶颈使人类保持在层次结构顶端的循环中。

这项工作将技术文献与RSI的限制及安全治理联系起来，确定了自我改进的治理级测量（governance-grade measurement）是一个关键的、尚未充分开发的领域。