llama.cpp प्रोजेक्ट ने संस्करण b10938 जारी किया, जिसमें Vulkan निष्पादन को प्रभावित करने वाले NVIDIA ड्राइवर बग के लिए एक कार्यक्षमता समाधान शामिल है। अपडेट queuesubmit ऑपरेशन के आसपास एक mutex पेश करता है जब VkDevice पर दो कतारें एक साथ सबमिट होती हैं तो सिंकनाइजेशन समस्याओं को रोकने के लिए।

  • NVIDIA हार्डवेयर पर संवर्धित कतार सबमिशन के कारण होने वाले आंतरिक सिंकनाइजेशन ब्रेक को हल करने के लिए Vulkan queuesubmit के आसपास एक mutex जोड़ता है।
  • macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, ROCm) और openEuler प्लेटफार्मों के लिए बाइनरी प्रदान करता है।

यह रिलीज़ पहचाने गए सिंकनाइजेशन दोष को कम करके प्रभावित NVIDIA ड्राइवरों पर स्थिर Vulkan प्रदर्शन सुनिश्चित करती है।