Le projet llama.cpp a publié la version b9941, qui introduit un changement pour s'appuyer uniquement sur les temps de compilation pour l'indexation et effectuer toujours des opérations de multiplication/addition.
Cette approche évite de dépendre du compilateur pour optimiser la mémoire locale et est moins coûteuse que l'émission d'instructions de contrôle de flux. La version fournit des binaires pour macOS (Apple Silicon et Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et openEuler.
La mise à jour garantit un comportement d'indexation cohérent entre les plateformes tout en optimisant les performances en réduisant la surcharge du contrôle de flux.