llama.cpp प्रोजेक्ट ने अपने मॉडल लोडर में TENSOR_READ_LAZY फीचर पेश करते हुए बिल्ड b10653 जारी किया है। इस बदलाव में TENSOR_GET_ROW_LAZY फ़ंक्शन और संबंधित --tensor-read-lazy कमांड-लाइन फ्लैग का जोड़ शामिल है।
- मॉडल लोडर में TENSOR_READ_LAZY और TENSOR_GET_ROW_LAZY जोड़े गए।
- लेजी टेंसर रीडिंग सक्षम करने के लिए --tensor-read-lazy CLI विकल्प पेश किया गया।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm), Android, और iOS के लिए बाइनरी प्रदान किए गए।
इस रिलीज़ में नए लेजी लोडिंग क्षमताओं के साथ कोर लाइब्रेरी को अपडेट किया गया है जबकि समर्थित प्लेटफ़ॉर्म पर पूर्व-निर्मित बाइनरी वितरित किए गए हैं।