llama.cpp प्रोजेक्ट ने संस्करण b10004 जारी किया है, जिसने Vulkan और CPU बैकएंड के लिए SETROWS ऑपरेशन में स्रोत के रूप में f16 के लिए पूर्ण समर्थन पेश किया है। इस अपडेट में अतिरिक्त बैकएंड परीक्षण और Intel हार्डवेयर के लिए विशिष्ट सुधार भी शामिल हैं।
- Vulkan और CPU बैकएंड के लिए f16 SETROWS (f32 के समतुल्य) के लिए पूर्ण समर्थन जोड़ा गया है।
- Intel प्रोसेसर पर विफलताओं को दूर करने के लिए, जब समर्थित हो तो DenormPreserve 16 सेट किया गया है।
- त्रुटि सीमाओं को ट्यून किया गया है और Metal supports_op को अपडेट किया गया है।
- CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL और HIP बैकएंड के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी प्रदान की गई हैं।
यह रिलीज विशिष्ट बैकएंड ऑपरेशन में सटीकता हैंडलिंग को बेहतर बनाती है और नए बाइनरी वितरणों के साथ प्लेटफ़ॉर्म कवरेज का विस्तार करती है।