Проект llama.cpp выпустил версию b10020, которая включает исправление функции get_rows бэкенда SYCL, затрагивающее форматы квантования Q2_K, Q4_K и Q5_K.
- Сборки для macOS/iOS предоставлены для Apple Silicon (arm64), Intel (x64) и iOS XCFramework, при этом KleidiAI отключен на Apple Silicon.
- Бинарные файлы для Linux доступны для процессоров Ubuntu x64, arm64 и s390x, а также варианты Vulkan, ROCm 7.2, OpenVINO и SYCL FP32/FP16.
- Включена сборка для Android arm64 CPU.
- Релизы для Windows охватывают процессоры x64 и arm64, OpenCL Adreno, CUDA 12.4 и 13.3, Vulkan, OpenVINO, SYCL и HIP.
- Поддержка openEuler частично отключена, сборки доступны для x86 (310p, 910b ACL Graph) и aarch64 (310p, 910b ACL Graph).
- Также предоставляется автономный бинарный файл пользовательского интерфейса.
Этот релиз обеспечивает более широкую совместимость оборудования на нескольких операционных системах и акселераторах, одновременно исправляя конкретные проблемы квантования SYCL.