ggml-org परियोजना ने llama.cpp का संस्करण b10774 जारी किया है, जिसमें फाइनट्यून मॉड्यूल में KV कैश न होने की समस्या के लिए एक सुधार शामिल है।
- प्रशिक्षण घटक अब फाइनट्यूनिंग संचालनों के दौरान KV कैश उपयोग को सही ढंग से संभालता है।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL के साथ Ubuntu), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, ROCm) और openEuler के लिए बाइनरी प्रदान की गई हैं।
- रिलीज़ संपत्तियों में एक iOS XCFramework और एक स्टैंडअलोन UI पैकेज भी शामिल हैं।
यह अपडेट पहले टूटे हुए कुंजी-मान कैश हैंडलिंग को संबोधित करके फाइनट्यूनिंग वर्कफ़्लो के सही ढंग से काम करने की सुनिश्चित करता है।