El proyecto llama.cpp ha lanzado la versión b10057, que incluye varias correcciones de errores para el backend SYCL junto con distribuciones binarias estándar en múltiples plataformas.

  • Corrige el cálculo incorrecto de filas cuando K_QUANTS_PER_ITERATION es 1 en SYCL.
  • Actualiza el núcleo Q5_K no reordenado para usar K_QUANTS_PER_ITERATION.
  • Añade el procesamiento faltante de la segunda mitad al núcleo q5_k reordenado.
  • Resuelve un posible error fuera por uno y una comprobación de fila > nrows faltante en el código SYCL.

Esta versión proporciona binarios actualizados para macOS, Linux, Windows, Android e iOS, compatibles con varios backends de hardware incluyendo CPU, CUDA, Vulkan, ROCm, OpenVINO y SYCL.