github llama.cpp · الآن · inference

llama.cpp b10734 يُمكّن واجهة برمجة تطبيقات المصفوفات Metal 4.0 على M5+/A19+

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10734، والذي يتضمن تحديثًا لتمكين واجهة برمجة تطبيقات المصفوفات Metal 4.0 للأجهزة المزودة برقائق M5+ أو A19+.

يطلب إصدار لغة Metal 4.0 لواجهة برمجة تطبيقات المصفوفات.
يحمل نوى واجهة برمجة تطبيقات المصفوفات من ملف metallib منفصل.
يصلح ترتيب بناء ملف metallib لنوى واجهة برمجة تطبيقات المصفوفات.
يضيف اختبار انحدار لواجهة برمجة تطبيقات المصفوفات external-metallib.

يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS و iOS و Linux و Windows و Android و openEuler عبر خلفيات عتادية مختلفة تشمل CPU و CUDA و ROCm و Vulkan و OpenVINO و SYCL و OpenCL.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Local inference

قراءة الأصل

ExLlamaV3 يضيف إخراج إلى وحدة المعالجة المركزية للخبراء MoE ونماذج GLM-5.3-Flash و Qwen3.8-Flash الجديدة

أصدرت Turboderp تحديثات كبيرة لـ ExLlamaV3، مقدمةً قدرات إخراج إلى وحدة المعالجة المركزية لخبراء Mixture of Experts (MoE). تتضمن التحديث أيضًا دعمًا للنماذج GLM-5.3-Flash و Qwen3.8-Flash التي تم إصدارها مؤخرًا.

github llama.cpp · منذ 18 ساعة · مشاهدتان

llama.cpp b10724 يحسّن استعادة حالة kv-cache لتقليل عدد النسخ من 1.3 مليون إلى 224

أصدر مشروع llama.cpp الإصدار b10724، والذي يحسّن بشكل كبير أداء استعادة خلايا ذاكرة التخزين المؤقت KV غير المتصلة عن طريق تجميع قراءات التشتت لكل تشغيل متواصل.

github llama.cpp · منذ 20 ساعة · 3 مشاهدات

إصلاح llama.cpp b10721 لانهيار WebGPU وإضافة دعم CUDA 13.4 لنظام Windows

أصدر مشروع llama.cpp الإصدار b10721، والذي يتضمن إصلاحًا حرجًا لخلفية WebGPU ويوسع دعم الأجهزة على نظام Windows.

github llama.cpp · منذ 22 ساعة · 9 مشاهدات

llama.cpp b10718 يوسع دمج MOE ليشمل specdec والرموز المتعددة

أصدر مشروع llama.cpp الإصدار b10718، والذي يتضمن تحديثًا مهمًا لخلفية CUDA. أبرز تغيير هو توسيع دمج Mixture of Experts (MOE) لدعم الترميز التخميني (specdec)، مما يعالج القيود السابقة حيث كان دمج MOE glu و topk-router مقيدًا بمعالجة رمز واحد فقط في كل مرة.

github llama.cpp · منذ 1 يوم · 4 مشاهدات

llama.cpp b10715 يدمج مشفر DFlash في حقن ذاكرة التخزين المؤقت KV

أصدر مشروع llama.cpp الإصدار b10715، والذي يتضمن تحسينًا رئيسيًا لتنفيذ DFlash. تم الآن دمج مشفر DFlash مباشرةً في عملية حقن ذاكرة التخزين المؤقت KV أثناء فك التشفير.