llama.cpp परियोजना ने संस्करण b10549 जारी किया है, जो मुख्य रूप से LFM2 और LFM2MOE मॉडलों में टेंसर विभाजन का समर्थन पेश करता है।

  • अपडेट में macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x CPU, Vulkan, OpenVINO, और SYCL बैकएंड के साथ), Windows (CPU, CUDA 12/13, Vulkan, OpenCL, ROCm), और Android के लिए बाइनरी शामिल हैं।
  • iOS समर्थन XCFramework के माध्यम से प्रदान किया गया है।
  • ACL Graph का उपयोग करके x86 और aarch64 आर्किटेक्चर के लिए openEuler बिल्स उपलब्ध हैं।

यह रिलीज़ नए टेंसर स्प्लिट क्षमता के साथ LFM2/LFM2MOE मॉडल चलाने को सुगम बनाने के लिए कई प्लेटफ़ॉर्म पर अपडेट किए गए बाइनरी प्रदान करती है।