llama.cppプロジェクトはバージョンb9949をリリースし、Adreno GPU向けの新しいOpenCL機能をもたらしました。このアップデートは、互換性のあるハードウェアでのパフォーマンスを向上させるために、クラスター並列デコードFlash Attention (FA) を実装しています。
- macOS Apple SiliconおよびIntelのバイナリが利用可能です。
- iOS XCFrameworkがリリースに含まれています。
- Linuxビルドには、x64、arm64、s390xアーキテクチャ向けのCPU、Vulkan、ROCm 7.2、OpenVINO、SYCLバリアントが含まれます。
- Windowsサポートには、CPU、Vulkan、HIP、OpenVINO、SYCL、CUDA 12/13のバイナリが含まれます。
- Android arm64 CPUビルドが提供されています。
- このバージョンでは、macOS Apple Silicon上のKleidiAIサポートが無効になっています。