llama.cpp ने नए APIs और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ संस्करण b9688 जारी किया
llama.cpp ने मॉडल प्रबंधन और SSE रियलटाइम अपडेट्स APIs जोड़ते हुए संस्करण b9688 जारी किया है। इस रिलीज़ में macOS, Linux, Android, Windows, और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर्स और Vulkan, CUDA, OpenVINO, और SYCL जैसे एक्सेलरेशन फ्रेमवर्क्स का समर्थन करती हैं।