Проект llama.cpp выпустил сборку b10011, которая включает рефакторинг владения состоянием кэша промптов сервера. Это обновление перемещает данные состояния промпта в `server_prompt_cache` и гарантирует очистку контрольных точек при очистке промпта.

  • Сервер: обработка очистки слота батча
  • macOS/iOS: сборки для Apple Silicon (arm64), Intel (x64) и iOS XCFramework; KleidiAI на Apple Silicon отключен
  • Linux: бинарные файлы для Ubuntu x64/arm64/s390x CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL FP32/FP16
  • Android: бинарный файл для arm64 CPU
  • Windows: бинарные файлы для CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP
  • openEuler: сборки x86 и aarch64 для 310p и 910b (ACL Graph); сборка x86 отключена
  • UI: стандартный бинарный файл UI