llama.cpp में mtmd घटक अब ffmpeg एकीकरण के माध्यम से WebP छवि प्रारूप का समर्थन करता है।
- mtmd फ्रेमवर्क के भीतर WebP छवियों के प्रसंस्करण को सक्षम बनाता है।
- डिकोडिंग कार्यक्षमता के लिए ffmpeg पर निर्भर करता है।
github
llama.cpp
·
1 घंटे पहले
·
inference
mtmd ने ffmpeg के माध्यम से WebP समर्थन जोड़ा
अनुवादित English → हिन्दी
संबंधित लेख
github
llama.cpp
·
6 घंटे पहले
·
1 बार देखा गया
llama.cpp b10568 DeepSeek 2 के लिए ggml_rope_set_offset() का उपयोग करता है
llama.cpp प्रोजेक्ट ने बिल्ड b10568 जारी किया, जो मॉडल हैंडलिंग को `ggml_rope_set_offset()` फ़ंक्शन का उपयोग करने के लिए अपडेट करता है। यह बदलाव DeepSeek 2 का समर्थन करने के लिए आंशिक रूप से लागू किया गया है।
github
llama.cpp
·
11 घंटे पहले
·
4 बार देखा गया
ggml 0.21.0 और Kleidiai SME2 समर्थन के साथ llama.cpp v0.2.0 रिलीज़
llama.cpp परियोजना ने संस्करण 0.2.0 जारी किया है, जिसमें ggml लाइब्रेरी के साथ समन्वय संस्करण 0.21.0 तक बढ़ाया गया है। इस अपडेट में विभिन्न हार्डवेयर प्लेटफ़ॉर्म पर कई बैकएंड सुधार और नई विशेषताएं शामिल हैं।
media
Hugging Face Forums
·
17 घंटे पहले
·
1 बार देखा गया
Celestium Engine में VRAM अनुकूलन और CPU फॉलबैक जोड़ा गया
Celestium Engine ने कम VRAM वाले हार्डवेयर पर SDXL प्रदर्शन को बेहतर बनाने के लिए कई अपग्रेड पेश किए हैं। ये बदलाव मेमोरी मैनेजमेंट, स्थिरता और फॉलबैक तंत्रों पर केंद्रित हैं ताकि सीमित सिस्टम पर भी निरंतर जनरेशन सुनिश्चित हो सके।
github
llama.cpp
·
20 घंटे पहले
·
2 बार देखा गया
llama.cpp b10549 ने LFM2/LFM2MOE के लिए टेंसर स्प्लिट सक्षम किया
llama.cpp परियोजना ने संस्करण b10549 जारी किया है, जो मुख्य रूप से LFM2 और LFM2MOE मॉडलों में टेंसर विभाजन का समर्थन पेश करता है।
github
vLLM
·
23 घंटे पहले
·
4 बार देखा गया
vLLM v0.28.0rc2 में स्थानीय कन्वोल्यूशन और उम्मीदवार चयनकर्ता के साथ DFlash2 स्पेक डिकोड जोड़ा गया
vLLM परियोजना ने संस्करण 0.28.0rc2 जारी किया, जिसमें DFlash2 अनुमानित डिकोडिंग सुविधा शामिल है।