llama.cpp प्रोजेक्ट ने संस्करण b10604 जारी किया है, जिसमें Deepseek 4 (DSV4) मॉडल फॉर्मेट के लिए समर्थन और macOS व iOS के लिए नए पूर्व-कंपाइल किए गए बाइनरी शामिल हैं।
- Deepseek 4 (DSV4) sm टेंसर के लिए समर्थन जोड़ा गया है, जिसमें हेड स्प्लिट के लिए बारीक ग्रैन्युलरिटी और dspark के लिए सुधार शामिल हैं।
- DSV4 के लिए मॉडल सेव करने की क्षमता सक्षम की गई है और विशिष्ट डिवाइसों पर dflash को वापस आने की अनुमति दी गई है।
- साझा विशेषज्ञों के लिए विलंबित allreduce फंक्शनलिटी शामिल है।
- macOS Apple Silicon बाइनरी, iOS XCFrameworks, और CPU, GPU और विशेष बैकएंड्स के लिए Linux, Windows, Android और openEuler के लिए अपडेटेड बाइनरी प्रदान किए गए हैं।
इस रिलीज से उपयोगकर्ता llama.cpp का उपयोग करके Deepseek 4 मॉडल चला सकते हैं और Apple डिवाइसों के लिए अपडेटेड नेटिव बिल्ड्स मिलते हैं।