llama.cpp परियोजना ने संस्करण b10444 जारी किया है, जिसमें `--models-dir` फ्लैग के माध्यम से बहु-टोकन पूर्वानुमान (MTP) सहायक मॉडल लोड करने का समर्थन शामिल है। इस अपडेट में प्रीसेट्स में MTP मॉडलों के लिए कड़ा पूर्वाग्रह जांच भी शामिल है और eagle3 ड्राफ्ट प्रकार के लिए समर्थन हटा दिया गया है।
- common: --models-dir के साथ MTP सहायक मॉडल लोड करने का समर्थन
- common: preset: कड़ा पूर्वाग्रह के साथ MTP मॉडलों की जांच
- अन्य ड्राफ्ट प्रकारों को संभालें
- eagle3 हटाएं
रिलीज में macOS (Apple Silicon और Intel), Linux (Ubuntu x64, arm64, s390x, Vulkan, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm) और openEuler के लिए बाइनरी प्रदान की गई हैं।