llama.cppプロジェクトは、DeepseekV4モデルアーキテクチャ向けの特定のアップデートを含むビルドb10005をリリースしました。このリリースでは、`seq_rm`の修正と適切な`seq_cp`関数の実装により、シーケンス管理の問題に対処しています。

  • DeepseekV4モデルの`seq_rm`を修正。
  • 適切な`seq_cp`機能を実装。
  • 処理の改善のため実際の更新コンテキストを作成。
  • macOS Apple Silicon (arm64) ビルドが利用可能ですが、KleidiAIサポートは無効化されています。
  • LinuxバイナリにはUbuntu x64およびarm64 (CPU)、s390x、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16が含まれます。
  • Android arm64 CPUビルドが提供されています。
  • WindowsリリースにはCPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPの各バリアントが含まれます。
  • x86およびaarch64 (310p/910b ACL Graph) 向けのopenEulerサポートが含まれており、一部の構成は無効化されています。

このアップデートにより、DeepseekV4モデルのシーケンス処理がすべての対応プラットフォームで正しく行われるようになります。