llama.cpp प्रोजेक्ट ने संस्करण b10068 जारी किया, जिसने DFlash मॉडल कार्यान्वयन में एक बदलाव पेश किया। अपडेट src/models/dflash.cpp को संशोधित करता है ताकि K/V क्वांटीज़ेशन का उपयोग करने पर इंजेक्टेड कुंजी/मूल्य (K/V) कैश घुमाया जाए।
इस रिलीज में macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), और openEuler के लिए बाइनरी प्रदान किए गए हैं।
अपडेट क्वांटीज़ेशन स्थितियों के तहत DFlash मॉडलों के लिए सही कैश हैंडलिंग सुनिश्चित करता है।