El proyecto llama.cpp ha lanzado la compilación b10696, que incluye una solicitud de extracción que añade el ajuste rápido de vectores (fa-vec) específicamente para el chip Apple M3 Pro.
Esta actualización aborda el problema #27668 para mejorar el rendimiento en esta configuración de hardware específica. El lanzamiento proporciona binarios para macOS, iOS, Linux, Windows, Android y openEuler a través de varios backends que incluyen CPU, CUDA, ROCm, Vulkan, OpenVINO y SYCL.
El ajuste fa-vec está destinado a optimizar la velocidad o eficiencia de inferencia para usuarios que ejecutan llama.cpp en dispositivos equipados con el procesador M3 Pro.