github llama.cpp · منذ 1 ساعة · inference

إضافة llama.cpp b10762 دعمًا لـ DeepSeek-V4-Flash-Vision-Exp

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10762، الذي يقدم دعمًا لنموذج DeepSeek-V4-Flash-Vision-Exp. يتضمن هذا التحديث أيضًا معالجة عدد الرموز الدنيا والقصوى من واجهة سطر الأوامر.

تشمل التغييرات الرئيسية في هذا الإصدار:

إضافة دعم mtmd لـ DeepSeek-V4-Flash-Vision-Exp.
تنفيذ معالجة عدد الرموز min/max عبر CLI.
التبديل إلى استخدام GGML_ROPE_TYPE_VISION.
تصحيح منطق عد الرموز وإزالة رمز التصحيح.

يوفر الإصدار ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و iOS عبر خلفيات عتادية مختلفة تشمل CPU و CUDA و ROCm و Vulkan و OpenVINO.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

llama.cpp b10766 يضيف دعم الرؤية لـ DeepSeek 4

أصدر مشروع llama.cpp الإصدار b10766، والذي يتضمن إصلاحًا لدعم إدخال الرؤية بشكل صحيح لنموذج DeepSeek 4.

github llama.cpp · منذ 9 ساعة · مشاهدة واحدة

llama.cpp b10758 يضيف دمج MUL_MAT و MUL_MAT_ID لـ Hexagon

أصدر مشروع llama.cpp الإصدار b10758، مقدمًا قدرات دمج MUL_MAT و MUL_MAT_ID لمعالج DSP الخاص بـ Hexagon. يتضمن هذا التحديث أيضًا عدة إصلاحات لتحسين الاستقرار والأداء على عتاد Qualcomm.

github llama.cpp · منذ 9 ساعة · 3 مشاهدات

llama.cpp b10759 يتجنب تهيئة نوع ذاكرة التخزين المؤقت لـ KleidiAI عند الإرسال

أصدر مشروع llama.cpp الإصدار b10759، الذي يتضمن إصلاحًا لتجنب تهيئة نوع ذاكرة التخزين المؤقت لـ KleidiAI أثناء الإرسال.

github llama.cpp · منذ 11 ساعة · مشاهدة واحدة

llama.cpp b10756 يقيّد طلب امتداد Vulkan shader_bfloat16

أصدر مشروع llama.cpp الإصدار b10756، الذي يعدّل سلوك الخلفية (backend) الخاص بـ Vulkan ليطلب فقط امتداد VK_KHR_shader_bfloat16 عندما يدعمه العتاد.

github llama.cpp · منذ 11 ساعة · مشاهدة واحدة

llama.cpp b10757 يحسن أداء mat-vec IQ3_S لـ Vulkan مع أحجام دفعات أكبر

أصدر مشروع llama.cpp الإصدار b10757، والذي يتضمن تحسينًا محددًا لخلفية Vulkan. يعالج هذا التحديث أحجام الدفعات الأكبر من 4 بكفاءة لعملية ضرب المصفوفة-المتجه IQ3_S عندما يكون NUM_COLS أكبر من 4.