github llama.cpp · منذ 2 يوم · inference

يضيف llama.cpp b10852 عمليات RELU و LEAKY_RELU إلى Hexagon

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10852، الذي يقدم دعمًا لعمليات RELU و LEAKY_RELU داخل الخلفية الخلفية Hexagon.

تمت إضافة عملية RELU إلى تنفيذ hexagon.
تمت إضافة عملية LEAKY_RELU إلى تنفيذ hexagon.
تم توفير ملفات ثنائية لأنظمة macOS (Apple Silicon و Intel)، Linux (Ubuntu مع CPU، Vulkan، ROCm، OpenVINO، SYCL)، Android، Windows (CPU، OpenCL، CUDA 12/13، Vulkan، OpenVINO، SYCL، ROCm)، و openEuler.

يتيح هذا التحديث للمستخدمين تشغيل النماذج التي تستخدم دوال التنشيط هذه على الأجهزة المتوافقة مع Hexagon.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

llama.cpp b10888 يضيف علامات تصحيح أخطاء مخزن الأوامر لمحللات GPU

أصدر مشروع llama.cpp الإصدار b10888، والذي يتضمن ميزة جديدة لإضافة علامات تصحيح أخطاء مخزن الأوامر لمحللات GPU في الخلفية Vulkan.

github llama.cpp · منذ 4 ساعة · مشاهدة واحدة

إضافة llama.cpp b10886 دعم الضمادات المتجهة Q1_0 لـ s390x

أصدر مشروع llama.cpp الإصدار b10886، الذي يقدم دعم الضمادات المتجهة Q1_0 لهندسة s390x. يتضمن هذا التحديث تنفيذ `ggml_vec_dot_q1_0_q8_0` وتحديث الوثائق لتعكس القدرة الجديدة.

github llama.cpp · منذ 18 ساعة · مشاهدة واحدة

إصلاح llama.cpp b10883 لضرب المصفوفات في Vulkan واستعادة تحسينات Ampere

أصدر مشروع llama.cpp الإصدار b10883، والذي يتضمن تحديثات كبيرة لخلفية Vulkan. يتمثل التغيير الرئيسي في استخدام ثوابت المواصفات لعمليات ضرب المصفوفة-المصفوفة من النوع A لتحسين تجميع الظلال والأداء.

github llama.cpp · منذ 1 يوم · مشاهدتان

يضيف llama.cpp b10870 خطوط أنابيب الضرب المصفوفي f16 من النوع B وضبط حجم بلاطة Warp لـ Intel coopmat1

أصدر مشروع llama.cpp الإصدار b10870، مقدمًا دعم Vulkan لخطوط أنابيب الضرب المصفوفي f16 من النوع B وضبط حجم بلاطة Warp بشكل خاص لأجهزة Intel coopmat1.

github llama.cpp · منذ 1 يوم · مشاهدتان

يضيف llama.cpp b10871 مظلّل iq4_xs mat-vec مخصص لـ Vulkan

أصدر مشروع llama.cpp الإصدار b10871، مقدّماً مظلّل mul_mat_vec_iq4_xs مخصص لمسار dmmv في Vulkan. يحل هذا التغيير محل تنفيذ الاحتياطي العام السابق لتحسين الأداء على عتاد RDNA4.