Проект llama.cpp выпустил версию b9985, внедряя реализацию слитного top-k Mixture of Experts (MoE) для SYCL. Это обновление учитывает замечания при рецензировании путем перемещения логики диспетчеризации слияния и ее экспорта через переменную окружения GGML_SYCL_ENABLE_FUSION.

  • Добавлена поддержка слитного top-k MoE для бэкендов SYCL.
  • Настроен контроль диспетчеризации слияния через переменную окружения GGML_SYCL_ENABLE_FUSION.
  • Обновлены журналы запуска для вывода статуса GGML_SYCL_ENABLE_FUSION, как и других переменных окружения.
  • Отключена поддержка KleidiAI для сборок macOS Apple Silicon.

Релиз предоставляет бинарные файлы для macOS, Linux, Windows, Android и openEuler для CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) и бэкендов ускорителей ИИ.