llama.cpp प्रोजेक्ट ने b9843 रिलीज प्रकाशित की है, जिसमें विभिन्न हार्डवेयर आर्किटेक्चर के लिए macOS, Linux, Android, Windows, और openEuler के लिए पूर्व-निर्मित बाइनरी उपलब्ध हैं।

  • स्प्लिट कंप्यूट के दौरान कम सिंक्रनाइजेशन को पुनः पेश करने के लिए PR #20793 को रिवर्ट किया गया।
  • macOS Apple Silicon बिल्ड्स के लिए KleidiAI समर्थन अक्षम किया गया।
  • Linux और Windows के लिए CPU, Vulkan, ROCm, OpenVINO, SYCL, CUDA, HIP, और OpenCL वेरिएंट प्रदान किए गए।
  • iOS XCFramework, Android arm64 (CPU), और UI बाइनरी शामिल हैं।

इस रिलीज से उपयोगकर्ता स्रोत कोड से कंपाइल किए बिना विभिन्न प्रकार के डिवाइस और एक्सेलेरेटर पर llama.cpp चला सकते हैं।