llama.cpp 프로젝트가 버전 b9985를 출시하며 SYCL을 위한 fused top-k Mixture of Experts (MoE) 구현을 도입했습니다. 이 업데이트는 리뷰 피드백을 반영하여 fusion dispatch logic을 이동하고 GGML_SYCL_ENABLE_FUSION 환경 변수를 통해 노출했습니다.

  • SYCL 백엔드를 위한 fused top-k MoE 지원 추가.
  • GGML_SYCL_ENABLE_FUSION 환경 변수를 통해 fusion dispatch 제어 구성.
  • 기타 환경 변수와 마찬가지로 시작 로그에 GGML_SYCL_ENABLE_FUSION 상태 출력하도록 업데이트.
  • macOS Apple Silicon 빌드에서 KleidiAI 지원 비활성화.

이번 릴리스는 CPU, GPU(CUDA, Vulkan, ROCm, OpenCL), AI 가속기 백엔드를 위한 macOS, Linux, Windows, Android, openEuler용 바이너리를 제공합니다.