Проект llama.cpp выпустил версию b9922, которая вводит новый параметр `n_keep_tail` в функции `split_equal`, специально предназначенный для рекуррентных моделей.

  • Доступны бинарные файлы macOS Apple Silicon (arm64).
  • Предоставлены бинарные файлы macOS Intel (x64).
  • Включен iOS XCFramework.
  • Выпущены сборки CPU Ubuntu x64 и arm64.
  • Доступны варианты Ubuntu Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 и SYCL FP16.
  • Предоставлены бинарные файлы Android arm64 CPU.
  • Выпущены сборки CPU Windows x64 и arm64.
  • Доступны сборки Windows CUDA 12.4, CUDA 13.3, Vulkan, OpenVINO, SYCL и HIP.
  • Включены сборки openEuler x86 и aarch64 с поддержкой ACL Graph.
  • Предоставлен автономный пакет UI.

Это обновление обновляет бинарную дистрибуцию llama.cpp для нескольких платформ и аппаратных ускорителей.