作者推出了WILDTRACE,这是一个新的基准测试,旨在评估模型在长文档中整合分散在遥远段落中的证据的能力。与依赖植入事实或逆向工程链条的现有基准测试不同,WILDTRACE使用源自214个自然来源的481项任务,例如技术事故报告文学叙事。
- 该基准测试基于因果、时间和叙事逻辑定义了七种源内证据几何结构。
- 一个source-first流水线在编写问题之前从文档结构中挖掘候选链。
- 项目经过多阶段验证,包括线索必要性、答案依据性、评分标准保真度、抗污染性和可回答性。
这项工作解决了访问信息与对自然分散的证据进行推理之间的差距,这对于现实世界中的高风险分析任务至关重要。