El proyecto llama.cpp ha lanzado la versión b9846, que incluye una optimización del backend Vulkan para Asahi Linux. Esta actualización revierte el bucle del tamaño de bloque en la multiplicación de matrices para mejorar la compatibilidad y el rendimiento en hardware Apple Silicon ejecutando Linux.
- Vulkan: Revierte el bucle BK en matmul para Asahi Linux mediante edición directa de SPIR-V.
- Vulkan: Revierte los cambios anteriores de desenrollado del bucle BK y corrige los comentarios inline.
- macOS/iOS: Proporciona binarios para Apple Silicon (arm64) e Intel (x64), con KleidiAI deshabilitado.
- Linux: Ofrece compilaciones para Ubuntu x64, arm64 y s390x en backends de CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL.
- Windows: Incluye compilaciones de CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP para x64 y arm64.
- Android: Libera un binario de CPU arm64.
Este lanzamiento garantiza un soporte estable de Vulkan en Asahi Linux mientras proporciona binarios precompilados completos para una amplia gama de arquitecturas de hardware y bibliotecas de aceleración.