llama.cpp परियोजना ने बिल्ड b10153 जारी किया है, जिसमें Nanbeige4.2 मॉडल आर्किटेक्चर के लिए समर्थन पेश किया गया है।
- Nanbeige4.2 मॉडलों को लोड और चलाने के लिए संगतता जोड़ी गई है।
- कोडबेस में flake8 लैन्टिंग चेक ठीक किए गए हैं।
- लूप बाउंड चेक ठीक किए गए हैं और अनावश्यक head_dim तर्क हटा दिया गया है।
- CPU, CUDA, ROCm, Vulkan, OpenVINO, SYCL और अन्य बैकएंड्स के लिए macOS (Apple Silicon और Intel), Linux, Windows, Android और iOS के लिए बाइनरी प्रदान किए गए हैं।
इस अपडेट से उपयोगकर्ता llama.cpp फ्रेमवर्क के भीतर Nanbeige4.2 मॉडल का उपयोग कर सकते हैं और सामान्य कोड गुणवत्ता में सुधार का लाभ उठा सकते हैं।