O projeto llama.cpp lançou a versão b9941, que introduz uma mudança para depender exclusivamente dos tempos de compilação para indexação e sempre realiza operações de multiplicar/adicionar.
Essa abordagem evita depender do compilador para otimizar a memória local e é mais barata do que emitir instruções de controle de fluxo. O lançamento fornece binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) e openEuler.
A atualização garante um comportamento de indexação consistente entre plataformas enquanto otimiza o desempenho reduzindo a sobrecarga do controle de fluxo.