github llama.cpp · منذ 9 ساعة · inference

llama.cpp b10759 يتجنب تهيئة نوع ذاكرة التخزين المؤقت لـ KleidiAI عند الإرسال

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10759، الذي يتضمن إصلاحًا لتجنب تهيئة نوع ذاكرة التخزين المؤقت لـ KleidiAI أثناء الإرسال.

يوفر الإصدار ملفات ثنائية لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (Ubuntu x64، arm64، s390x)، وWindows (CPU، CUDA 12/13، Vulkan، OpenCL، ROCm، SYCL، OpenVINO)، وAndroid، وopenEuler.

تم تعطيل دعم KleidiAI صراحةً لأنظمة macOS Apple Silicon في هذا الإصدار.

تتضمن المعاينات لنظام Windows arm64 مع CUDA 13 إلى جانب الإصدارات القياسية من CUDA 12.4 و13.3.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

llama.cpp b10766 يضيف دعم الرؤية لـ DeepSeek 4

أصدر مشروع llama.cpp الإصدار b10766، والذي يتضمن إصلاحًا لدعم إدخال الرؤية بشكل صحيح لنموذج DeepSeek 4.

github llama.cpp · منذ 1 ساعة · مشاهدة واحدة مباشر

إضافة llama.cpp b10762 دعمًا لـ DeepSeek-V4-Flash-Vision-Exp

أصدر مشروع llama.cpp الإصدار b10762، الذي يقدم دعمًا لنموذج DeepSeek-V4-Flash-Vision-Exp. يتضمن هذا التحديث أيضًا معالجة عدد الرموز الدنيا والقصوى من واجهة سطر الأوامر.

github llama.cpp · منذ 9 ساعة · مشاهدة واحدة

llama.cpp b10758 يضيف دمج MUL_MAT و MUL_MAT_ID لـ Hexagon

أصدر مشروع llama.cpp الإصدار b10758، مقدمًا قدرات دمج MUL_MAT و MUL_MAT_ID لمعالج DSP الخاص بـ Hexagon. يتضمن هذا التحديث أيضًا عدة إصلاحات لتحسين الاستقرار والأداء على عتاد Qualcomm.

github llama.cpp · منذ 11 ساعة · مشاهدة واحدة

llama.cpp b10756 يقيّد طلب امتداد Vulkan shader_bfloat16

أصدر مشروع llama.cpp الإصدار b10756، الذي يعدّل سلوك الخلفية (backend) الخاص بـ Vulkan ليطلب فقط امتداد VK_KHR_shader_bfloat16 عندما يدعمه العتاد.

github llama.cpp · منذ 11 ساعة · مشاهدة واحدة

llama.cpp b10757 يحسن أداء mat-vec IQ3_S لـ Vulkan مع أحجام دفعات أكبر

أصدر مشروع llama.cpp الإصدار b10757، والذي يتضمن تحسينًا محددًا لخلفية Vulkan. يعالج هذا التحديث أحجام الدفعات الأكبر من 4 بكفاءة لعملية ضرب المصفوفة-المتجه IQ3_S عندما يكون NUM_COLS أكبر من 4.