El proyecto llama.cpp ha lanzado la versión b10025, que incluye un cambio para relajar los requisitos de contigüidad de tensores para operaciones de concatenación cuantizada.

  • La actualización principal modifica el backend CUDA y la biblioteca ggml subyacente para permitir tensores no contiguos durante la concatenación cuantizada.
  • Se han añadido casos de prueba para verificar la funcionalidad con entradas de concatenación cuantizada no contigua.
  • Se proporcionan binarios para macOS (Apple Silicon e Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) y openEuler.

Esta versión actualiza el entorno de compilación y corrige restricciones específicas del manejo de tensores para operaciones cuantizadas.