llama.cpp b9905, DSV4의 양자화된 KV 캐시 수정

llama.cpp 프로젝트가 DSV4의 양자화된 키-값 캐시에 대한 수정을 포함한 버전 b9905를 출시했습니다. 이 업데이트는 모델의 캐싱 메커니즘 내 특정 문제를 해결하여 안정성 또는 정확성을 개선합니다.

이번 릴리스는 macOS(Apple Silicon 및 Intel), iOS, Linux(Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Android(arm64), Windows(CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), openEuler(x86 및 aarch64 ACL Graph)용 바이너리를 제공합니다. macOS Apple Silicon KleidiAI 지원은 이 빌드에서 비활성화되었습니다.

이 릴리스를 통해 사용자는 광범위한 하드웨어 가속기 및 운영 체제 전반에 걸친 최신 버그 수정에 접근할 수 있게 됩니다.