El proyecto llama.cpp ha lanzado la versión b9946, introduciendo optimizaciones significativas para procesadores Qualcomm Hexagon junto con nuevos artefactos de compilación para múltiples plataformas.
- Las operaciones unarias Hexagon ahora agrupan filas anchas para evitar desbordamiento de VTCM y reemplazan divisiones con fastdiv.
- La actualización incluye instrumentación de trazado y núcleos HVX optimizados para mejorar la generación de código.
- Hay binarios disponibles para macOS Apple Silicon, aunque el soporte KleidiAI permanece deshabilitado.
- Las nuevas compilaciones de Linux cubren objetivos CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL.
- Las versiones de Windows ahora incluyen soporte CUDA 13 junto con las opciones existentes CUDA 12, OpenCL e HIP.
Este lanzamiento proporciona binarios actualizados para entornos de escritorio y móvil mientras mejora el rendimiento en hardware basado en Hexagon.