一项针对构建实时回顾板的90次独立智能体运行的观察性研究挑战了“增加测试工具等功能可提升软件质量”的假设。研究发现,将推理努力从High提升至xHigh,使首次完美运行率从28%跃升至89%,而增加测试工具则使成本上升42%至68%,且未改善功能得分。

  • 前沿模型(Frontier models)的表现接近上限,而一款低成本本地模型在42分制量表中得分介于24至37分之间。
  • 容器部署是主要的缺陷来源,首次运行失败率达44%,且失败率随模型代际变化剧烈。
  • 测试工具使成本增加42%至68%,但未改善功能得分或可靠性。
  • 面向设计的提示词在5分量表上将视觉质量从3.0提升至4.5,且不影响功能表现。

该研究得出结论:将修复措施与故障类型相匹配至关重要,因为大多数首次运行失败源于推理能力不足,而非检查工具能捕捉到的可见缺陷。