Проект llama.cpp выпустил версию b10742, которая включает новую функцию добавления быстрых векторных (fa-vec) настроек специально для чипа Apple A18 Pro, установленного в MacBook Neo.

Этот релиз предоставляет бинарные файлы для нескольких платформ и аппаратных конфигураций:

  • macOS: Apple Silicon (arm64), Intel (x64) и iOS XCFramework.
  • Linux: сборки Ubuntu для CPU (x64, arm64, s390x), Vulkan, ROCm 7.14, OpenVINO и SYCL (FP32/FP16).
  • Windows: CPU (x64, arm64), OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и ROCm 7.14.
  • Android: arm64 CPU.

В примечаниях к выпуску указано, что поддержка KleidiAI для macOS Apple Silicon в этой сборке в настоящее время отключена.