TIS 2.0 更新引入了一种段落重排功能，无需额外训练即可消除检索增强生成（RAG）中的“中间丢失”位置偏差。通过对检索到的文档应用学习到的令牌重要性分数进行重排，该系统实现了零位置差距，并将精确匹配准确率较基线提升了 5 个百分点。

  • 通过 TIS 分数重排段落将 LITM 差距降至 0.000，并将 EM 提升至 21.7%，在 MS-MARCO 查询上达到了理想性能。
  • 原本为 KV 缓存压缩训练的现有 `tis-stage3-ert` 检查点可零样本迁移至段落重排任务，其效果与专用重排器相当。
  • 新增的 `QueryAwareImportanceHead` 模块引入了交叉注意力查询上下文交互以及 InfoNCE 对比训练，用于逐段落相关性评分。
  • 将 TIS 重要性偏差整合到推测解码中，使草稿接受长度从 5.80 提升至 6.57，在 LLaMA-3 模型上实现了 12.5% 的加速。
  • 新的检查点 `tis-passage-reranker` 和 `tis-v8b-hard-anchor` 现已在 HuggingFace 上与更新的 GitHub 仓库一同提供。

作者指出，尽管 TIS 有效解决了位置偏差问题，但答案提取仍是主要瓶颈，因为在最优重排后，约 76% 的测试用例仍然错误。