Проект llama.cpp выпустил версию b9846, которая включает оптимизацию бэкенда Vulkan для Asahi Linux. Это обновление откатывает цикл размера блока в умножении матриц для улучшения совместимости и производительности на оборудовании Apple Silicon под управлением Linux.
- Vulkan: Откатывает цикл BK в matmul для Asahi Linux путем прямого редактирования SPIR-V.
- Vulkan: Отменяет предыдущие изменения разворачивания цикла BK и исправляет встроенные комментарии.
- macOS/iOS: Предоставляет бинарные файлы для Apple Silicon (arm64) и Intel (x64), с отключенным KleidiAI.
- Linux: Предлагает сборки для Ubuntu x64, arm64 и s390x для CPU, Vulkan, ROCm 7.2, OpenVINO и бэкендов SYCL.
- Windows: Включает сборки CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP для x64 и arm64.
- Android: Выпускает бинарный файл CPU arm64.
Этот выпуск обеспечивает стабильную поддержку Vulkan на Asahi Linux, а также предоставляет комплексные предварительно собранные бинарные файлы для широкого спектра аппаратных архитектур и библиотек ускорения.