llama.cpp परियोजना ने संस्करण b10412 जारी किया है, जो dflash और dspark दोनों बैकएंड्स के लिए बैकएंड सैंपलिंग समर्थन पेश करता है। यह अपडेट बैकएंड सैंपलिंग तर्क के भीतर 0 से अधिक p_min मानों को भी सक्षम बनाता है और संबंधित सुरक्षा उपाय जोड़ता है।

  • dflash और dspark के लिए बैकएंड सैंपलिंग सक्षम करता है।
  • अतिरिक्त गार्ड्स के साथ बैकएंड सैंपलिंग में p_min > 0 की अनुमति देता है।
  • macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, OpenVINO, SYCL), Windows (CPU, CUDA, Vulkan, OpenVINO, SYCL, ROCm), Android, और openEuler के लिए बाइनरी प्रदान करता है।

यह रिलीज llama.cpp उपयोगकर्ताओं के लिए उपलब्ध हार्डवेयर त्वरण विकल्पों को विस्तारित करती है।