对 2,848 次由提供商计费的 Claude Code 运行的研究表明,减少检索到的上下文或工具输出并不能可靠地降低编码代理的实际计费成本。该研究通过分析跨越三个模型和七个存储库的 2,908 次执行活动,挑战了以文本移除为常见评估指标的做法。
- Prompt-cache 流量主导了成本,约占重建成本的 87% 和实际账单的 80%。
- 一个移除了 38% 估计原始工具输出 token 的实验组,其成对成本实际上比基线高出 6.8%。
- 研究发现压缩通过移除行动关键证据而损害任务完成,在源自 SWE-bench 的 Go 任务中,将补丁应用成功率从 27/40 降低到 15/40。
作者提出使用经成功率调整的计费成本作为评估效率的更准确标准,而非仅依赖 token 缩减。