llama.cpp परियोजना ने b10005 बिल्ड जारी की है, जिसमें DeepseekV4 मॉडल आर्किटेक्चर के लिए विशिष्ट अपडेट शामिल हैं। रिलीज ने `seq_rm` को ठीक करके और एक उचित `seq_cp` फ़ंक्शन लागू करके अनुक्रम प्रबंधन समस्याओं को दूर किया है।

  • DeepseekV4 मॉडल्स के लिए `seq_rm` को ठीक किया गया।
  • उचित `seq_cp` कार्यक्षमता लागू की गई।
  • बेहतर हैंडलिंग के लिए एक वास्तविक अपडेट संदर्भ बनाया गया।
  • macOS Apple Silicon (arm64) बिल्ड उपलब्ध हैं, जबकि KleidiAI समर्थन अक्षम है।
  • Linux बाइनरी Ubuntu x64 और arm64 (CPU), s390x, Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 को कवर करते हैं।
  • Android arm64 CPU बिल्ड प्रदान किए गए हैं।
  • Windows रिलीज में CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और HIP वेरिएंट शामिल हैं।
  • x86 और aarch64 (310p/910b ACL Graph) के लिए openEuler समर्थन शामिल है, जिसमें कुछ कॉन्फ़िगरेशन अक्षम हैं।

यह अपडेट सभी समर्थित प्लेटफ़ॉर्म पर DeepseekV4 मॉडल्स के लिए सही अनुक्रम हैंडलिंग सुनिश्चित करता है।