llama.cpp 项目发布了版本 b9905,其中包括对 DSV4 中量化键值缓存的修复。此更新解决了模型缓存机制中的特定问题,以提高稳定性或正确性。
该版本为 macOS(Apple Silicon 和 Intel)、iOS、Linux(Ubuntu x64、arm64、s390x 带 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)、Android(arm64)、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)和 openEuler(x86 和 aarch64 带 ACL Graph)提供了二进制文件。此构建中禁用了 macOS Apple Silicon KleidiAI 支持。
此版本确保用户可以在广泛的硬件加速器和操作系统上访问最新的错误修复。