El proyecto llama.cpp lanzó la versión b9985, introduciendo una implementación de MoE top-k fusionado para SYCL. Esta actualización aborda los comentarios de revisión moviendo la lógica de envío de fusión y exponiéndola a través de la variable de entorno GGML_SYCL_ENABLE_FUSION.

  • Añadido soporte para MoE top-k fusionado para backends SYCL.
  • Configurado el control de envío de fusión a través de la variable de entorno GGML_SYCL_ENABLE_FUSION.
  • Actualizados los registros de inicio para imprimir el estado de GGML_SYCL_ENABLE_FUSION como otras variables de entorno.
  • Desactivado el soporte de KleidiAI para compilaciones de macOS Apple Silicon.

El lanzamiento proporciona binarios para macOS, Linux, Windows, Android y openEuler a través de CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) y backends de aceleradores de IA.