llama.cpp b9985 ने SYCL के लिए fused top-k MoE जोड़ा

llama.cpp प्रोजेक्ट ने संस्करण b9985 जारी किया, जिसमें SYCL के लिए एक fused top-k Mixture of Experts (MoE) कार्यान्वयन पेश किया गया। इस अपडेट ने GGML_SYCL_ENABLE_FUSION पर्यावरण चर के माध्यम से इसे उजागर करके fusion dispatch तर्क को स्थानांतरित करके समीक्षा प्रतिक्रिया को संबोधित किया।

• SYCL backends के लिए fused top-k MoE समर्थन जोड़ा गया।
• GGML_SYCL_ENABLE_FUSION पर्यावरण चर के माध्यम से fusion dispatch नियंत्रण कॉन्फ़िगर किया गया।
• अन्य पर्यावरण चर की तरह GGML_SYCL_ENABLE_FUSION स्थिति को प्रिंट करने के लिए startup logs अपडेट किए गए।
• macOS Apple Silicon builds के लिए KleidiAI समर्थन अक्षम कर दिया गया।

रिलीज में CPU, GPU (CUDA, Vulkan, ROCm, OpenCL), और AI accelerator backends के लिए macOS, Linux, Windows, Android, और openEuler के लिए binaries प्रदान किए गए हैं।