El proyecto llama.cpp ha lanzado la versión b9786, introduciendo soporte para filas no contiguas en la normalización mediante OpenCL. Esta actualización forma parte del desarrollo continuo del equipo ggml-org para mejorar la compatibilidad con hardware y el rendimiento en diversas plataformas. El lanzamiento proporciona binarios para macOS Apple Silicon, Macs Intel e iOS XCFrameworks. Los usuarios de Linux pueden acceder a compilaciones para las arquitecturas Ubuntu x64, arm64 y s390x utilizando backends de CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL. El soporte para Android está disponible para dispositivos con CPU arm64, mientras que Windows ofrece amplias opciones que incluyen CPU, CUDA 12 y 13, Vulkan, OpenVINO, SYCL e HIP. El lanzamiento también enumera compilaciones desactivadas para KleidiAI en plataformas macOS y openEuler.
La versión b9786 de llama.cpp añade soporte para filas no contiguas en OpenCL
Traducido del English → Español