O projeto llama.cpp lançou a versão b9985, introduzindo uma implementação de MoE top-k fundido para SYCL. Esta atualização aborda o feedback da revisão movendo a lógica de despacho de fusão e expondo-a por meio da variável de ambiente GGML_SYCL_ENABLE_FUSION.
- Adicionado suporte para MoE top-k fundido para backends SYCL.
- Configurado o controle de despacho de fusão por meio da variável de ambiente GGML_SYCL_ENABLE_FUSION.
- Atualizados os logs de inicialização para imprimir o status do GGML_SYCL_ENABLE_FUSION como outras variáveis de ambiente.
- Desativado o suporte ao KleidiAI para builds do macOS Apple Silicon.
O lançamento fornece binários para macOS, Linux, Windows, Android e openEuler através de CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) e backends de aceleradores de IA.