2026年2月的一项分析使用SWE-rebench等去污染基准测试,揭示了领先AI编程模型之间被传统静态排行榜所掩盖的显著性能差距。该研究强调了基准测试污染如何推高某些模型的分数,使它们看起来与顶级选项具有竞争力,而实际上并非如此。

  • MiniMax M2.5在SWE-bench Verified上得分为80.2%,但在去污染的SWE-rebench上降至39.6%,而Claude Opus 4.6以51.7%的分数保持领先。
  • SWE-rebench上的前10名模型全部来自Anthropic、OpenAI和Google,Kimi K2和GLM-5等中国模型排名较低。
  • Gemini 3 Pro在LiveCodeBench的算法挑战中占据主导地位,但在需要多文件编辑的实际软件工程任务中落后于Claude Opus 4.6。
  • SpecWeave由于Claude Opus 4.6在严格的去污染基准测试上表现更优,因此在复杂实现中默认使用Claude Opus 4.6。

数据表明,Tier 1和Tier 3模型之间的差距巨大,尽管每个问题的成本更高,但更好的模型减少了重试和手动清理的需求。