ggml संगठन ने llama.cpp का b10063 रिलीज़ प्रकाशित किया है, जिसमें macOS, iOS, Linux, Windows और Android प्लेटफ़ॉर्म के लिए पूर्व-निर्मित बिनरीज़ प्रदान किए गए हैं।

  • macOS Apple Silicon (arm64) और Intel (x64) के लिए बिल्स उपलब्ध हैं।
  • Ubuntu x64 और arm64 CPU संस्करण Vulkan, ROCm 7.2, OpenVINO और SYCL वेरिएंट के साथ शामिल हैं।
  • Windows रिलीज़ CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL और HIP बैकएंड को कवर करती हैं।
  • मोबाइल डिप्लॉयमेंट के लिए Android arm64 (CPU) बिनरीज़ प्रदान किए गए हैं।
  • इस रिलीज़ में एक iOS XCFramework और एक स्टैंडअलोन UI पैकेज भी शामिल है।

इस अपडेट से उपयोगकर्ताओं को स्थानीय रूप से स्रोत कोड को कंपाइल करने की आवश्यकता के बिना विभिन्न हार्डवेयर आर्किटेक्चर और ऑपरेटिंग सिस्टम पर llama.cpp चलाने की अनुमति मिलती है।