github llama.cpp · منذ 4 يوم · inference

إضافة llama.cpp b10828 دعم لـ Spark2_5ForCausalLM

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10828، الذي يقدم دعم التنفيذ لنموذج Spark2_5ForCausalLM. يتضمن هذا التحديث إضافة بنية نموذج Spark3 وإعادة تسميتها إلى spark2_5.

تمت إضافة دعم لتنفيذ Spark2_5ForCausalLM عبر طلب السحب #27868.
تتوفر إصدارات macOS لأجهزة Apple Silicon (arm64) وIntel (x64).
تم توفير ثنائيات Linux لنظام Ubuntu x64 وarm64 وs390x، بما في ذلك متغيرات Vulkan وROCm 10.0 وOpenVINO وSYCL.
تتضمن إصدارات Windows خيارات CPU وOpenCL Adreno وCUDA 12/13 وVulkan وOpenVINO وSYCL وROCm 10.0.
يتم أيضًا توزيع ثنائيات Android arm64 (CPU).

يتيح هذا الإصدار للمستخدمين تشغيل نماذج Spark2_5 على مجموعة واسعة من منصات الأجهزة وأنظمة التشغيل.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

llama.cpp b10888 يضيف علامات تصحيح أخطاء مخزن الأوامر لمحللات GPU

أصدر مشروع llama.cpp الإصدار b10888، والذي يتضمن ميزة جديدة لإضافة علامات تصحيح أخطاء مخزن الأوامر لمحللات GPU في الخلفية Vulkan.

github llama.cpp · منذ 4 ساعة · مشاهدة واحدة

إضافة llama.cpp b10886 دعم الضمادات المتجهة Q1_0 لـ s390x

أصدر مشروع llama.cpp الإصدار b10886، الذي يقدم دعم الضمادات المتجهة Q1_0 لهندسة s390x. يتضمن هذا التحديث تنفيذ `ggml_vec_dot_q1_0_q8_0` وتحديث الوثائق لتعكس القدرة الجديدة.

github llama.cpp · منذ 18 ساعة · مشاهدة واحدة

إصلاح llama.cpp b10883 لضرب المصفوفات في Vulkan واستعادة تحسينات Ampere

أصدر مشروع llama.cpp الإصدار b10883، والذي يتضمن تحديثات كبيرة لخلفية Vulkan. يتمثل التغيير الرئيسي في استخدام ثوابت المواصفات لعمليات ضرب المصفوفة-المصفوفة من النوع A لتحسين تجميع الظلال والأداء.

github llama.cpp · منذ 1 يوم · مشاهدتان

يضيف llama.cpp b10870 خطوط أنابيب الضرب المصفوفي f16 من النوع B وضبط حجم بلاطة Warp لـ Intel coopmat1

أصدر مشروع llama.cpp الإصدار b10870، مقدمًا دعم Vulkan لخطوط أنابيب الضرب المصفوفي f16 من النوع B وضبط حجم بلاطة Warp بشكل خاص لأجهزة Intel coopmat1.

github llama.cpp · منذ 1 يوم · مشاهدتان

يضيف llama.cpp b10871 مظلّل iq4_xs mat-vec مخصص لـ Vulkan

أصدر مشروع llama.cpp الإصدار b10871، مقدّماً مظلّل mul_mat_vec_iq4_xs مخصص لمسار dmmv في Vulkan. يحل هذا التغيير محل تنفيذ الاحتياطي العام السابق لتحسين الأداء على عتاد RDNA4.