Moonshot AIは、エージェント型タスクにおいてプロプライエタリなLLMを上回る性能を持つように設計された、トリリオンパラメータの推論モデルであるオープンウェイトのKimi K2 ThinkingとKimi K2 Thinking Turboをリリースしました。これらのモデルは、推論ステップを挟みながら数百回のツール呼び出しを逐次実行し、中間結果に基づいて計画を調整することができます。

  • アーキテクチャ: 合計1兆パラメータ、トークンあたり320億パラメータのアクティブなパラメータを持つMixture-of-expertsトランスフォーマー。
  • パフォーマンス: τ²-Bench Telecomエージェント型ベンチマーク（93%の精度）およびツール有効化版Humanity's Last Exam（44.9%）で最先端の結果を達成。
  • 効率性: INT4精度でファインチューニングされ、ファイルサイズが594 GBに削減され、フル精度と比較して出力速度が2倍になりました。
  • 利用可能性: 非商用および商用利用のために、月間アクティブユーザー数1億人または月間収益2000万ドルまで、修正MITライセンスの下でウェイトが提供されています。

エージェント型アプリケーションは、人間の介入なしに多数のツール呼び出しにわたって推論するモデルの能力から恩恵を受け、INT4精度によりより安価なハードウェアでのデプロイメントが可能になります。