llama.cppプロジェクトはビルドb9888をリリースしました。これには、flash attentionのためにK-typeの検証をV-typeに拡張するCUDAアップデートが含まれています。

  • macOS Apple Siliconビルドが利用可能ですが、KleidiAIサポートは無効化されています。
  • Linuxバイナリは、x64、arm64、s390xアーキテクチャ上のCPU、Vulkan、ROCm 7.2、OpenVINO、SYCLターゲットをカバーしています。
  • Windowsリリースには、CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPのバリアントが含まれます。
  • Android arm64（CPU）およびiOS XCFrameworkビルドが提供されています。
  • openEulerサポートはx86とaarch64アーキテクチャに対して部分的に無効化されています。

このリリースにより、複数のプラットフォームとハードウェアアクセラレータで更新されたバイナリが提供されます。