llama.cpp प्रोजेक्ट ने संस्करण b11019 जारी किया, जिसने एक गंभीर बग को संबोधित किया जहां गैर-अलाइन किए गए ऑफसेट पर एम्बेडेड GGUF फ़ाइलें त्रुटिपूर्ण टेंसर डेटा लौटा रही थीं। अपडेट ने फ़ाइल की शुरुआत के सापेक्ष GGUF डेटा सेक्शन को अलाइन किया, न कि ऑफसेट 0 के सापेक्ष, जिससे एम्बेडेड मॉडलों का सही लोडिंग सुनिश्चित हुआ।
- gguf_init_from_file_ptr को ठीक किया ताकि GGUF शुरुआत से डेटा सेक्शन को पैड किया जा सके, जो गैर-अलाइन किए गए एम्बेडेड फ़ाइलों के साथ त्रुटियों को रोकता है।
- FILE* स्ट्रीम के माध्यम से LoRA एडाप्टर्स को लोड करने की सुविधा प्रदान करने के लिए llama_adapter_lora_init_from_file_ptr जोड़ा गया।
- जब एम्बेडेड डेटा सेक्शन अलाइन नहीं होता है तो mmap को एक चेतावनी के साथ अक्षम किया गया, जिसने ggml में पिछले एसेर्शन को प्रतिस्थापित किया।
- macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, CUDA, ROCm, OpenVINO, SYCL), Android, Windows, और openEuler के लिए बाइनरी शामिल हैं।
यह रिलीज़ अन्य कंटेनरों में या मनमाने फ़ाइल ऑफसेट पर एम्बेडेड GGUF फ़ाइलों की विश्वसनीय संचालन को सुनिश्चित करती है।