一篇立场论文认为,现代AI系统应从被动的维护循环转向主动的、基于测试的开发,以提高泛化能力。当前的被动流水线依赖于观察用户错误来修补模型,这往往忽略了更广泛的系统目标,并且无法预防未来的边缘情况。

作者主张创建一个“测试空间”,将反馈数据映射到任务目标,从而将循环从被动演变为主动。他们通过数学证明表明,与被动方法相比,这种主动方法能以更少的迭代实现更好的长期扩展。

这一转变解决了在开放世界用例中收集剩余错误的统计难题,旨在构建更具泛化能力的AI系统。