llama.cpp प्रोजेक्ट ने b10656 बिल्ड जारी किया है, जिसमें वर्किंग मेमोरी के आकार को सीमित करने के लिए एक बदलाव शामिल है। यह संशोधन सिस्टम RAM में बड़े टेन्सर लोड होने से रोकने के लिए डिज़ाइन किया गया है।

  • इस रिलीज में macOS (Apple Silicon और Intel), iOS, Linux (Ubuntu x64, arm64, s390x), Android, Windows और openEuler के लिए बाइनरी प्रदान की गई हैं।
  • समर्थित बैकएंड में CPU, Vulkan, ROCm 7.14, OpenVINO, SYCL, CUDA 12/13 और OpenCL Adreno शामिल हैं।
  • इस बिल्ड में macOS Apple Silicon के लिए KleidiAI समर्थन अक्षम है।

वर्किंग मेमोरी फुटप्रिंट को सीमित करके, यह अपडेट क्वांटीकरण प्रक्रियाओं के दौरान अधिक स्थिर मेमोरी उपयोग सुनिश्चित करता है।