llama.cpp प्रोजेक्ट ने संस्करण b10970 जारी किया है, जिसमें fattn-mma बैकएंड के लिए एक तकनीकी अपडेट शामिल है। इस बदलाव ने विशेष रूप से CDNA आर्किटेक्चर डिवाइसों के लिए fp32 संचायकों का उपयोग लागू किया है।

  • रिलीज़ में macOS (Apple Silicon और Intel), Linux (Ubuntu x64/arm64/s390x), Windows, और Android के लिए बाइनरी फ़ाइलें प्रदान की गई हैं।
  • GPU समर्थन में CUDA 12/13, Vulkan, ROCm 10.0, OpenVINO, SYCL, और समर्थित प्लेटफ़ॉर्म पर OpenCL Adreno शामिल हैं।
  • एक विशिष्ट सुधार fattn-mma मॉड्यूल के भीतर MFMA डिवाइसों पर fp32 संचय का उपयोग करके परिशुद्धता को संबोधित करता है।