llama.cpp परियोजना ने बिल्ड b10593 जारी किया है, जो DeepseekV4 मॉडल आर्किटेक्चर के साथ गंभीर समस्याओं को संबोधित करता है। अपडेट विशेष रूप से बहु-क्रम प्रसंस्करण के दौरान हुए रोलबैक विफलता को हल करता है।

  • बहु-क्रम संदर्भों के लिए DeepseekV4 रोलबैक हैंडलिंग ठीक करता है।
  • सामान्य मॉडल लोडिंग प्रक्रियाओं को सही करता है।
  • स्टेट क्षति से बचने के लिए लंबित रोलबैक ऑपरेशन को एकल-उपयोग बनाता है।
  • पूर्ण लोड के दौरान केवल विशिष्ट क्रम ID के लिए कैश को साफ होने की गारंटी देता है।
  • संपीड़न अनुपातों के लिए एसेर्शन जोड़ता है और ग्राफ टोपोलॉजी को स्थिर बनाता है।

यह रिलीज बहु-क्रमों के साथ DeepseekV4 मॉडल चला रहे उपयोगकर्ताओं के लिए स्थिरता में सुधार करती है। यह CPU, CUDA, ROCm और Vulkan सहित विभिन्न हार्डवेयर बैकएंड्स पर macOS, Linux, Windows, Android और iOS के लिए अद्यतन बाइनरी भी प्रदान करता है।