El proyecto llama.cpp ha lanzado la versión b9941, que introduce un cambio para depender exclusivamente de los tiempos de compilación para la indexación y siempre realiza operaciones de multiplicar/sumar.
Este enfoque evita depender del compilador para optimizar la memoria local y es más económico que emitir sentencias de control de flujo. El lanzamiento proporciona binarios para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) y openEuler.
La actualización garantiza un comportamiento de indexación consistente entre plataformas mientras optimiza el rendimiento reduciendo la sobrecarga del control de flujo.