llama.cpp प्रोजेक्ट ने संस्करण b10906 जारी किया, जिसमें छवि इनपुट के बाद अनुमानित डिकोडिंग के संबंध में सर्वर घटक के लिए एक सुधार शामिल है। यह बदलाव सुनिश्चित करता है कि टोकन गिनती के बजाय वास्तविक स्थिति ड्राफ्टर को पास की जाती है, जिससे DFlash के अलावा सभी ड्राफ्टर्स प्रभावित होते हैं।
- ड्राफ्ट पैरामीटर `n_past` को `pos0` में बदल दिया गया ताकि यह टोकन गिनती के बजाय एक स्थिति संकेतक के रूप में अपने भूमिका को सटीक रूप से दर्शा सके।
- macOS (Apple Silicon और Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA, OpenCL, Vulkan, OpenVINO, SYCL, ROCm) और openEuler के लिए पूर्व-निर्मित बाइनरी प्रदान किए गए।
यह अपडेट एक पैरामीटर नाम असंगति को ठीक करता है और सर्वर की अनुमानित डिकोडिंग तर्क में उचित स्थिति हैंडलिंग सुनिश्चित करता है।