Проект llama.cpp выпустил версию b9987, которая внедряет новые аксессоры для формы тензоров в формат GGUF. Это обновление изменяет API, возвращая формы тензоров как указатели const int64_t, и убирает аксессор n_dims в пользу gguf_get_tensor_ne.

  • Бинарные файлы macOS/iOS для Apple Silicon (arm64) и Intel (x64), а также iOS XCFramework.
  • Сборки Linux для Ubuntu x64, arm64 и s390x CPU, а также варианты с Vulkan, ROCm 7.2, OpenVINO и SYCL.
  • Бинарные файлы Android arm64 CPU.
  • Бинарные файлы Windows для CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP.
  • Поддержка openEuler для архитектур x86 и aarch64 с ACL Graph.

Этот релиз предоставляет обновленные бинарные файлы для основных платформ и аппаратных ускорителей, одновременно уточняя внутренний интерфейс доступа к тензорам GGUF.