Proyek llama.cpp merilis versi b9985, memperkenalkan implementasi Mixture of Experts (MoE) top-k terintegrasi untuk SYCL. Pembaruan ini menanggapi umpan balik tinjauan dengan memindahkan logika dispatch fusi dan mengeksposnya melalui variabel lingkungan GGML_SYCL_ENABLE_FUSION.

  • Menambahkan dukungan MoE top-k terintegrasi untuk backend SYCL.
  • Mengonfigurasi kontrol dispatch fusi melalui variabel lingkungan GGML_SYCL_ENABLE_FUSION.
  • Memperbarui log startup untuk mencetak status GGML_SYCL_ENABLE_FUSION seperti variabel lingkungan lainnya.
  • Menonaktifkan dukungan KleidiAI untuk build macOS Apple Silicon.

Rilis ini menyediakan biner untuk macOS, Linux, Windows, Android, dan openEuler di backend CPU, GPU (CUDA, Vulkan, ROCm, OpenCL), dan akselerator AI.