Проект llama.cpp выпустил версию b9930, которая включает исправление, позволяющее уменьшать позиции внутри последовательности.

  • macOS/iOS: Бинарные файлы предоставлены для Apple Silicon (arm64) и Intel (x64), а также iOS XCFramework. Поддержка KleidiAI на Apple Silicon отключена.
  • Linux: Доступны сборки для Ubuntu x64 и arm64 (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16).
  • Android: Выпущен бинарный файл CPU arm64.
  • Windows: Бинарные файлы для процессоров x64 и arm64, а также OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP.
  • openEuler: Поддержка отключена для некоторых конфигураций; доступны сборки для x86 и aarch64 с ACL Graph.
  • Также включен автономный бинарный файл пользовательского интерфейса.