llama.cpp प्रोजेक्ट ने संस्करण b10734 जारी किया, जिसमें M5+ या A19+ चिप्स वाले डिवाइसों के लिए Metal 4.0 tensor API को सक्षम करने के लिए एक अपडेट शामिल है।

  • tensor API के लिए Metal 4.0 भाषा संस्करण का अनुरोध करता है।
  • अलग metallib से tensor API kernels लोड करता है।
  • tensor API kernels के लिए metallib बिल्ड ऑर्डर को ठीक करता है।
  • external-metallib tensor API रीग्रेशन टेस्ट जोड़ता है।

इस रिलीज में CPU, CUDA, ROCm, Vulkan, OpenVINO, SYCL और OpenCL सहित विभिन्न हार्डवेयर बैकएंड्स के लिए macOS, iOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।