Le projet llama.cpp a publié la version b10064, qui comprend une modification du backend OpenCL. Cette mise à jour modifie le format de quantification q4_K en transposant les échelles noshuffle pour activer les lectures groupées.
- La publication fournit des binaires pour macOS (Apple Silicon et Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA 12/13, Vulkan, ROCm, SYCL, HIP), Android et iOS.
- Le support OpenCL Adreno est disponible pour Windows arm64.
- Le support KleidiAI sur macOS Apple Silicon reste désactivé dans cette compilation.
- La mise à jour traite des performances en optimisant les modèles d'accès mémoire pour des couches de quantification spécifiques.