llama.cpp प्रोजेक्ट ने संस्करण b9952 जारी किया, जो DeepSeek V4 मॉडल्स के लिए key-query मास्क के हैंडलिंग को संशोधित करता है। अपडेट सुनिश्चित करता है कि Flash Attention का उपयोग करते समय सभी KQ मास्क f16 पर सेट किए जाएं, साथ ही शून्य ध्यान बायस को भी हटा दिया जाता है।
- DeepSeek V4 में प्रत्येक स्ट्रीम के लिए एकजुट raw_k कैश को दोहराने वाले मृत कोड को हटा दिया गया।
- CPU, GPU और विशेष हार्डवेयर बैकएंड्स के लिए macOS (Apple Silicon और Intel), iOS, Linux, Android, Windows और openEuler के लिए बाइनरी प्रदान किए गए।