llama.cpp प्रोजेक्ट ने अपने सर्वर घटक को Clef मॉडल के लिए विज़ुअल इनपुट का समर्थन करने के लिए अपडेट किया है। यह बदलाव pull request #29969 का हिस्सा है।
- Clef के लिए विज़ुअल इनपुट समर्थन जोड़ा गया।
- input_attn_causal को निजी में स्थानांतरित किया गया।
- पुराने server_batch::embd को विस्तारित किया गया।
- server_batch::token::pos को बहुआयामी बनाया गया।
- रद्द करने के हैंडलिंग को ठीक किया गया।
- छवि टोकन सीमा को ठीक किया गया।
- yield_to_queue में डेटा म्यूटेशन समस्या को ठीक किया गया।