llama.cpp b9968 añade int8 dp4 dense y optimización de prefill MoE para GPUs Adreno

El proyecto llama.cpp lanzó la versión b9968, introduciendo optimizaciones OpenCL para las GPU Qualcomm Adreno. La actualización añade capacidades de multiplicación de matrices densas int8 dp4 y GEMM Mixture of Experts (MoE) al backend OpenCL.

• Se añadió soporte para int8 dp4 dense y GEMM MoE para GPUs Adreno a través de OpenCL.
• Se refactorizó la base de código OpenCL como parte de la actualización.
• macOS Apple Silicon con KleidiAI está deshabilitado en esta versión.
• Se proporcionan binarios para macOS (Apple Silicon e Intel), Linux, Android, Windows y openEuler a través de los backends CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL y HIP.

Esta versión proporciona binarios actualizados para varias plataformas mientras habilita optimizaciones específicas de rendimiento para las GPU móviles Adreno.