llama.cpp b9905 memperbaiki kv-cache terkuantisasi untuk dsv4

Proyek llama.cpp telah merilis versi b9905, yang mencakup perbaikan untuk cache kunci-nilai terkuantisasi dalam DSV4. Pembaruan ini menangani masalah spesifik dalam mekanisme caching model untuk meningkatkan stabilitas atau kebenaran.

Rilis ini menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (Ubuntu x64, arm64, s390x dengan CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler (x86 dan aarch64 dengan ACL Graph). Dukungan KleidiAI untuk macOS Apple Silicon dinonaktifkan dalam build ini.

Rilis ini memastikan pengguna memiliki akses ke perbaikan bug terbaru di berbagai akselerator perangkat keras dan sistem operasi.