ベンチマーク · agentic

DeepSWE

25 結果 20 モデル

DataCurve's long-horizon real-repo coding-agent suite (headline metric = pass@1 resolve rate); Artificial Analysis swapped SWE-bench Pro out of its Coding Agent Index for it. Not a SWE-bench variant.

0 23.5 47 70.5 94 2026-07-27 2026-08-18 2026-09-10 Kimi K3 · 68.5 · 2026-07-27 GPT-5.6 Sol · 72.7 · 2026-07-27 GPT-5.6 Sol · 85.8 · 2026-08-18 Gemini 3.6 Flash · 49 · 2026-07-27 DeepSeek-V4-Flash · 54.4 · 2026-07-31 DeepSeek-V4-Flash-0731 · 54.4 · 2026-07-31 Qwen3.8-Max · 56.6 · 2026-08-03 DeepSeek-V4 Flash 0731 · 53.3 · 2026-08-07 GPT-5.6 Luna · 67.2 · 2026-08-07 Grok 4.6 · 65.9 · 2026-08-13 DeepSeek-V4-Pro · 62.7 · 2026-08-13 Gemini 3.7 Flash · 65.3 · 2026-08-13 GLM-5.3 · 66.9 · 2026-08-17 GLM-5.3 · 69 · 2026-08-22 DeepSeek V4 Pro 0813 · 88.5 · 2026-08-18 DeepSeek V4 Pro 0813 · 62.8 · 2026-08-18 Claude Fable 5 · 69.7 · 2026-08-18 Claude Fable 5 · 69.7 · 2026-08-22 Ornith-1.5 · 56 · 2026-08-19 Ornith-1.5 · 56 · 2026-08-20 DeepSeek-V4-Flash-Vision-Exp · 59.3 · 2026-08-21 GLM-5.3-Flash · 63 · 2026-08-26 Muse Spark 1.3 · 75.4 · 2026-09-04 GPT-6 Astra · 74.1 · 2026-09-04 DeepSeek-V4.1-Flash · 74.2 · 2026-09-10
Kimi K3 GPT-5.6 Sol Gemini 3.6 Flash DeepSeek-V4-Flash DeepSeek-V4-Flash-0731 Qwen3.8-Max DeepSeek-V4 Flash 0731 GPT-5.6 Luna Grok 4.6 DeepSeek-V4-Pro Gemini 3.7 Flash GLM-5.3 DeepSeek V4 Pro 0813 Claude Fable 5 Ornith-1.5 DeepSeek-V4-Flash-Vision-Exp GLM-5.3-Flash Muse Spark 1.3 GPT-6 Astra DeepSeek-V4.1-Flash
タイムライン
日付 モデル スコア ソース
2026-09-10 DeepSeek-V4.1-Flash 74.2% DeepSeekがネイティブマルチモーダルサポートを備えたV4.1-Flashモデルをリリース
2026-09-04 GPT-6 Astra 74.1% OpenAIが105万トークンのコンテキストを持つコンピュータ操作モデル「GPT-6 Astra」をリリース
2026-09-04 Muse Spark 1.3 75.4% Meta、ツール呼び出しとトークンを削減した Muse Spark 1.3 をリリース
2026-08-26 GLM-5.3-Flash 63.0% Ox Alpha は GLM-5.3-Flash
2026-08-22 GLM-5.3 69.0% GLM-5.3はDeepSWEにおいてClaude Fable 5の精度を第五のコストで達成
2026-08-22 Claude Fable 5 69.7% GLM-5.3はDeepSWEにおいてClaude Fable 5の精度を第五のコストで達成
2026-08-21 DeepSeek-V4-Flash-Vision-Exp 59.3% DeepSeekがマルチモーダルモデル DeepSeek-V4-Flash-Vision-Exp をリリース
2026-08-20 Ornith-1.5 56.0% Z.aiがポストトレーニングのスケーリング法を提案しGLM 5.3をリリース、Ornith-1.5が自己改善機能で登場
2026-08-19 Ornith-1.5 56.0% Ornith-1.5が自己改善トレーニングを用いた9B、35B-A3B、397Bモデルをリリース
2026-08-18 DeepSeek V4 Pro 0813 62.8% DeepSWEにおけるDeepSeek V4 Pro 0813とClaude Fable 5の比較:コスト、コーディング、ルーティング
2026-08-18 Claude Fable 5 69.7% DeepSWEにおけるDeepSeek V4 Pro 0813とClaude Fable 5の比較:コスト、コーディング、ルーティング
2026-08-18 GPT-5.6 Sol 85.8% DeepSeek V4 ProとGPT-5.6 Solの連鎖による解決で、DeepSWEタスクの83%を$3.35で達成
2026-08-18 DeepSeek V4 Pro 0813 88.5% DeepSeek V4 ProとGPT-5.6 Solの連鎖による解決で、DeepSWEタスクの83%を$3.35で達成
2026-08-17 GLM-5.3 66.9% Z.aiがGLM-5.3コーディングモデルをリリース;CursorがSpaceXAIに参加
2026-08-13 Gemini 3.7 Flash 65.3% Google、コーディング性能の向上と低コストを実現したGemini 3.7 Flashを発表
2026-08-13 DeepSeek-V4-Pro 62.7% DeepSeek-V4-Pro GAリリースでエージェント機能が強化され、Responses APIサポートが追加
2026-08-13 Grok 4.6 65.9% SpaceXAIが500Kのコンテキストと改善されたエージェント型推論を搭載したGrok 4.6をリリース
2026-08-07 DeepSeek-V4 Flash 0731 53.3% DeepSWEにおけるDeepSeek-V4 Flash 0731とGPT-5.6 Lunaの比較: コストとコーディング
2026-08-07 GPT-5.6 Luna 67.2% DeepSWEにおけるDeepSeek-V4 Flash 0731とGPT-5.6 Lunaの比較: コストとコーディング
2026-08-03 Qwen3.8-Max 56.6% アリババが2.4兆パラメータのMoEモデル「Qwen3.8-Max」をリリース
2026-07-31 DeepSeek-V4-Flash-0731 54.4% DeepSeek、低コストでエージェント機能の大幅向上を実現したV4-Flash-0731をリリース
2026-07-31 DeepSeek-V4-Flash 54.4% DeepSeek、エージェント機能を強化した「DeepSeek-V4-Flash」をパブリックベータで公開
2026-07-27 Gemini 3.6 Flash 49.0% Google、Gemini 3.6 Flash、3.5 Flash-Lite、および3.5 Flash Cyberをリリース
2026-07-27 Kimi K3 68.5% Kimi K3がDeepSWEのpass@4でGPT-5.6 Solを上回り、コストは64%削減
2026-07-27 GPT-5.6 Sol 72.7% Kimi K3がDeepSWEのpass@4でGPT-5.6 Solを上回り、コストは64%削減