作者分析了微软的 FastContext 论文，并提出了一种使用离线语义搜索来减少编码代理中 token 用量的替代方法。通过预先对代码库进行索引并向 Claude Code 提供文件范围提示，该方法在保持 SWE-QA 上等效解决方案质量的同时，使总 token 量下降了 43.8%。

  • FastContext 使用经过训练的子代理将代码库探索与求解分离开来，而本实验使用 Attemory 进行离线索引和检索。
  • 测试涵盖了 15 个代码库中的 720 对样本，比较了 DeepSeek v4 的 Claude Code 基线与带有检索提示的相同设置。
  • 总 token 用量减少了 43.8%，主代理和子代理的 token 均有所减少，而 GPT-5.4 裁判分数基本保持不变（83.39 vs 83.17）。
  • 与 FastContext 的在线代理循环不同，Attemory 使用仅预填充的检索，避免了探索阶段的逐 token 解码。

这种方法表明，简单的离线检索提示可以显著降低上下文成本，而无需专门的训练探索器，为编码代理提供了一种更轻量级的替代方案。