llama.cpp b9905 исправляет квантованный kv-cache для dsv4

Проект llama.cpp выпустил версию b9905, которая включает исправление для квантованного ключ-значения кеша в DSV4. Это обновление устраняет определенные проблемы в механизме кэширования модели для повышения стабильности или корректности.

Релиз предоставляет бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x с CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) и openEuler (x86 и aarch64 с ACL Graph). Поддержка macOS Apple Silicon KleidiAI отключена в этой сборке.

Этот релиз гарантирует пользователям доступ к последним исправлениям ошибок на широком спектре аппаратных ускорителей и операционных систем.