llama.cppプロジェクトは、DeepseekV4モデル用の特定のアップデートを含むバージョンb9973をリリースしました。主な変更点は、フルコンテキストではなくシーケンスのみをキャッシュからクリアすることです。

  • macOS Apple SiliconおよびIntelのバイナリが利用可能です。
  • iOS用XCFrameworkが提供されています。
  • UbuntuビルドにはCPU、Vulkan、ROCm 7.2、OpenVINO、SYCLバックエンドが含まれます。
  • Android arm64 CPUバイナリが含まれています。
  • WindowsビルドはCPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPをサポートしています。
  • ACL Graph付きのopenEuler x86およびaarch64ビルドが利用可能です。

このリリースにより、さまざまなプラットフォームとハードウェアアクセラレータ用の更新されたバイナリが提供されます。