Moonshot AIは、ネイティブなビジョン機能と100万トークンのコンテキストウィンドウを備えたオープンソースのスパースMixture-of-Experts (MoE)モデルであるKimi K3をリリースした。これは2.8兆パラメータ規模に到達した初のオープンモデルである。

  • アーキテクチャは、長いコンテキストでのデコーディングを最大6.3倍高速化するKimi Delta Attention (KDA)と、トレーニング効率を約25%向上させるAttention Residuals (AttnRes)を導入している。
  • K3は896個のエキスパートのうち16個のみを活性化し、その前任者であるKimi K2と比較して全体のスケーリング効率を約2.5倍向上させている。
  • ベンチマークでは、Program Bench、SWE Marathon、BrowseComp、Automation Bench、OmniDocBenchで首位に立つ一方、FrontierSWEとHLE-FullではClaude Fable 5に劣っている。
  • このモデルはOpenAI SDK経由でアクセス可能で、キャッシュヒット入力には$0.30/MTok、出力には$15.00/MTokのフラット料金体系を採用している。

Moonshotによれば、K3は長期のコーディング、知識作業、推論を対象としており、Claude Fable 5やGPT 5.6 Solのような独自モデルに対する高性能なオープンな代替手段を提供する。