llama.cpp प्रोजेक्ट ने बिल्ड b10237 जारी किया, जिसने DeepSeek V3.2 मॉडल के लिए मल्टी-टोकन प्रिडिक्शन (MTP) समर्थन पेश किया है।
- अपडेट ने llama फ्रेमवर्क के भीतर DeepSeek V3.2 के लिए विशेष रूप से MTP क्षमताओं को सक्षम किया है।
- मॉडल प्रकार खोज तर्क को समायोजित किया गया है ताकि डिटेक्शन प्रक्रिया के दौरान MTP परतों को स्पष्ट रूप से शामिल करने की आवश्यकता न हो।
- macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी प्रदान की गई हैं।
इस रिलीज से उपयोगकर्ताओं को हार्डवेयर आर्किटेक्चर और ऑपरेटिंग सिस्टम के व्यापक स्पेक्ट्रम पर DeepSeek V3.2 के साथ MTP का लाभ उठाने की अनुमति मिलती है।