llama.cpp प्रोजेक्ट ने b10649 बिल्ड जारी किया है, जिसमें सिंथेटिक स्पेकुलेटिव अक्सेप्टेंस के लिए एक नई सुविधा पेश की गई है। यह जोड़ विशेष रूप से बेंचमार्किंग उद्देश्यों के लिए डिज़ाइन किया गया है और llama-server और llama-cli दोनों घटकों में उपलब्ध है।

  • llama-server और llama-cli में केवल बेंचमार्क के लिए सिंथेटिक स्पेकुलेटिव अक्सेप्टेंस जोड़ा गया।
  • CPU, GPU और विभिन्न एक्सेलेरेटर बैकएंड्स के माध्यम से macOS, iOS, Linux, Windows, Android और openEuler के लिए बाइनरी शामिल हैं।
  • इस बिल्ड के लिए macOS Apple Silicon पर KleidiAI समर्थन अक्षम कर दिया गया है।

यह रिलीज़ व्यापक प्लेटफ़ॉर्म के लिए अपडेट किए गए बाइनरी प्रदान करती है, जबकि स्पेकुलेटिव डिकोडिंग प्रदर्शन का मूल्यांकन करने के लिए विशिष्ट उपकरण जोड़ती है।