llama.cppプロジェクトはバージョンb10604をリリースし、Deepseek 4 (DSV4) モデル形式のサポートと、macOSおよびiOS用の新しいプリコンパイル済みバイナリを導入しました。

  • Deepseek 4 (DSV4) smテンソルのサポートを追加し、ヘッド分割により粗い粒度を使用し、dsparkの修正を行いました。
  • DSV4向けのモデル保存を有効にし、特定デバイスでのdflashの復帰を許可します。
  • 共有エクスパートの遅延allreduce機能を含みます。
  • macOS Apple Siliconバイナリ、iOS XCFrameworks、およびCPU、GPU、専用バックエンド向けにLinux、Windows、Android、openEuler用の更新されたバイナリを提供します。

このリリースにより、ユーザーはllama.cppを使用してDeepseek 4モデルを実行でき、Appleデバイス用の更新されたネイティブビルドが提供されます。