github llama.cpp · منذ 1 ساعة · inference

إضافة llama.cpp b10218 دعم downsample لـ minicpmv46

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10218، والذي يتضمن إضافة دعم downsample لـ minicpmv46 عبر طلب السحب #25993. يقدم هذا التحديث دمج VIT 4x ignore ويضع وضع downsample داخل تنسيق GGUF.

تمت إضافة وظيفة downsample لـ minicpmv46 إلى mtmd_image_preprocessor_llava_uhd.
تم دمج وضع downsample مباشرة في بنية GGUF.
تم تضمين دمج VIT 4x ignore في عملية التحويل.

يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و openEuler عبر مسرعات الأجهزة المختلفة بما في ذلك CUDA و ROCm و Vulkan و OpenVINO.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Multimodal

قراءة الأصل

مايكروسوفت تطلق Mage-VL، نموذجًا متعدد الوسائط للبث الأصلي المشفر

أطلقت مايكروسوفت Mage-VL، وهو نموذج أساسي متعدد الوسائط بكفاءة عالية يحتوي على 4 مليار معلمة لفهم الصور والفيديو، يعتمد على نهج مشفر أصلي لتبسيط المعالجة البصرية. يفصل النظام تدفقات الفيديو إلى إطارات مرجعية (I) وإطارات متوقعة (P)، مع الاحتفاظ فقط بالبقع التي تخصص لها المشفر بتات لتقليل استهلاك الرموز البصرية بنسبة تزيد عن 75%.

github llama.cpp · منذ 6 يوم

يضيف llama.cpp b10142 دعماً أولياً لرؤية MiniMax-M3

أصدر مشروع llama.cpp الإصدار b10142، الذي يقدم دعماً أولياً للرؤية لنموذج MiniMax-M3. يطبق هذا التحديث نسخة تعتمد على النص فقط وتعيد استخدام المكونات الموجودة من MiniMax-M2، بما في ذلك GQA مع تطبيع QK لكل رأس ودوران جزئي، وخبراء بأسلوب DeepSeek-V3، وتنشيط swigluoai.

media r/LocalLLaMA · منذ 17 يوم · مشاهدتان

OvisOCR2 يتصدر OmniDocBench كأول نموذج لمعالجة المستندات من البداية للنهاية

أطلقت ATH-MaaS نموذج OvisOCR2، وهو نموذج رؤية ولغة بحجم 0.8 مليار معلمة تم تدريبه لاحقاً من Qwen3.5-0.8B، ليصبح أول نموذج متكامل يتصدر قائمة OmniDocBench بنتيجة 96.58 على الإصدار v1.6.

arxiv arXiv cs.AI · منذ 19 يوم

عدد رموز الإخراج، وليس المعالجة البصرية، هو العامل المهيمن على استهلاك الطاقة في استدلال VLM على الحافة

يكشف التقييم المنهجي لاستهلاك الطاقة في استدلال Vision-Language Model (VLM) على الجهاز عبر خمسة نماذج ومنصتي عتاد أن عنق الزجاجة الرئيسي للطاقة هو توليد الإخراج بدلاً من الإدراك البصري. تنقض الدراسة الافتراض الشائع بأن تقليل الرموز البصرية هو الاستراتيجية الأكثر فعالية للكفاءة، وتوضح بدلاً من ذلك أن التحكم في طول الإخراج أمر حاسم لتوفير الطاقة.

arxiv arXiv cs.CL · منذ 25 يوم

تقدم OpenGlass بنية لفصل الاستشعار عن الحوسبة للمساعدة البصرية المحلية المدعومة بنماذج MLLM

يقدم الباحثون نظام OpenGlass، وهو نظام مفتوح المصدر يفصل بين الاستشعار والحوسبة لتقديم مساعدة بصرية متعددة الوسائط منخفضة الكمون للمستخدمين المكفوفين وضعاف البصر. تستخدم هذه البنية نظارة مبنية على ESP32 لالتقاط السياق البصري بينما يقوم جهاز استهلاكي قريب بإجراء استنتاج MLLM محلياً، مع الاحتفاظ بالبيانات الخام افتراضياً على أجهزة يتحكم فيها المستخدم.