llama.cpp Release b9757: नए बाइनरी और फीचर्स
llama.cpp ने macOS, Linux, Android, Windows, और openEuler के लिए अपडेटेड बाइनरीज़ के साथ version b9757 जारी किया है। इस रिलीज में top-n-sigma sampler से unconditional softmax+sort को हटा दिया गया है, जिससे sampling efficiency में सुधार हुआ है। नए बिल्ड्स Apple Silicon और ARM64 सहित कई आर्किटेक्चर्स पर Vulkan, OpenVINO, SYCL, ROCm, और CUDA का समर्थन करते हैं।