llama.cpp प्रोजेक्ट ने संस्करण b9833 जारी किया है, जिसमें MiniCPM5 मॉडल के लिए एक समर्पित पार्सर के साथ विभिन्न बग फिक्स और रीफैक्टरिंग शामिल हैं। इस अपडेट में टूल कॉल पार्सिंग, ग्रामर सरलीकरण, और Jinja2 मानकों के साथ संगतता सुनिश्चित करने के लिए संशोधित Jinja API व्यवहार का समर्थन शामिल है।
- XML टूल कॉल समर्थन और स्ट्रीमिंग टूल-आर्गुमेंट होल्डर्स को ठीक करते हुए एक समर्पित MiniCPM5 PEG पार्सर लागू किया गया।
- साझा मैपर्स और हिस्टरी फॉलबैक को वापस लेते हुए, MiniCPM5 के लिए ऑटोपार्सर का उपयोग करने के लिए चैट मॉड्यूल को रीफैक्टर किया गया।
- Jinja2 स्पेसिफिकेशन से मेल खाने के लिए jinja min/max API को ठीक किया और टेम्पलेट नामांकन को openbmb-MiniCPM5-1B.jinja में अपडेट किया।
- macOS (Apple Silicon, Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP), और openEuler के लिए बाइनरीज़ प्रदान की गईं।
इस रिलीज़ से उपयोगकर्ताओं को विभिन्न हार्डवेयर आर्किटेक्चर और ऑपरेटिंग सिस्टम पर बेहतर टूल-कॉलिंग क्षमताओं के साथ MiniCPM5 मॉडल चलाने की सुविधा मिलती है।