作者介绍了 DeepStress,这是一个通过用受控的合成环境替换检索模块来对深度搜索代理进行压力测试的框架。这种方法允许研究人员在三个维度上操纵证据的频率和质量:可信度、相关性和事实性。
- 该框架用合成环境替换标准检索以控制文档可靠性。
- 在 HotpotQA 和 BrowseCompPlus 上的测试揭示了代理处理不可靠信息方式的显著差异。
- 该研究提出了新的指标,以更好地记录系统结果以及参数化知识与检索知识之间的交互。
这项工作解决了搜索代理对低质量证据的鲁棒性这一未被充分探索的问题,这可能导致现实应用中出现严重故障,尽管它们在真实基准测试中表现良好。