Проект llama.cpp выпустил версию b9918, которая включает добавление функции `set_rows` с поддержкой `src0 f16` через pull request #25434. Это обновление совместно авторизовано Георги Гергановым.

  • Доступны бинарники для macOS Apple Silicon (arm64), в то время как поддержка KleidiAI остается отключенной.
  • Сборки для Linux охватывают Ubuntu x64 и arm64 для CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL FP32/FP16.
  • Предоставлены бинарники Android arm64 CPU.
  • Релизы для Windows включают варианты CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP.
  • Указана поддержка openEuler для архитектур x86 и aarch64, при этом некоторые конфигурации отключены.
  • В релиз также включен автономный бинарник UI.