O projeto llama.cpp lançou a versão b9987, que introduz novos acessores de forma de tensor ao formato GGUF. Esta atualização modifica a API retornando formas de tensor como ponteiros const int64_t e remove o acessor n_dims em favor do gguf_get_tensor_ne.

  • Binários para macOS/iOS para Apple Silicon (arm64) e Intel (x64), além de um iOS XCFramework.
  • Compilações de Linux para Ubuntu x64, arm64 e CPUs s390x, junto com variantes Vulkan, ROCm 7.2, OpenVINO e SYCL.
  • Binários de CPU Android arm64.
  • Binários para Windows para CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
  • Suporte openEuler para arquiteturas x86 e aarch64 com ACL Graph.

Este lançamento fornece binários atualizados em plataformas principais e aceleradores de hardware, enquanto refina a interface interna de acesso ao tensor GGUF.