llama.cppプロジェクトはバージョンb9918をリリースしました。これには、プルリクエスト#25434を通じて`src0 f16`サポート付きの`set_rows`関数の追加が含まれています。この更新はGeorgi Gerganovとの共同執筆です。
- macOS Apple Silicon (arm64) のバイナリが利用可能ですが、KleidiAIサポートは無効のままです。
- Linuxビルドには、CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16向けのUbuntu x64およびarm64が含まれます。
- Android arm64 CPUバイナリが提供されています。
- Windowsリリースには、CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPの各バリアントが含まれています。
- x86およびaarch64アーキテクチャ向けのopenEulerサポートがリストされており、一部の構成は無効になっています。
- スタンドアロンUIバイナリもリリースに含まれています。