إصلاح llama.cpp b11284 لعمليات GET_ROWS في OpenVINO على مشاهد الأوزان المُكمَّاة
أصدر مشروع llama.cpp الإصدار b11284، الذي يتضمن إصلاحًا للخلفية (backend) الخاصة بـ OpenVINO للتعامل بشكل صحيح مع عمليات GET_ROWS على مشاهد الأوزان المُكمَّاة.
إصدار llama.cpp b11280 يقلل من مزامنة allreduce للصفوف باستخدام مخازن مضبوطة على المضيف
أصدر مشروع llama.cpp الإصدار b11280، والذي يتضمن تغييرًا لتقليل مزامنة allreduce للصفوف عن طريق استخدام مخازن مضبوطة على المضيف.
يحدد llama.cpp b11282 CUDA_ARCH لمرور جهاز MUSA
أصدر مشروع llama.cpp الإصدار b11282، الذي يتضمن إصلاحًا لتعريف ماكرو `CUDA_ARCH` لمرور جهاز MUSA. سابقًا، لم يحدد رأس مورد MUSA هذه المتغير، مما تسبب في تقييم اختبارات الهندسة المعمارية في مصادر ggml-cuda المشتركة إلى صفر ونتج عن ذلك أجسام نواة فارغة.
يضيف llama.cpp دعم GLM-5.3-Flash مع إصلاحات k-pool و MTP
أضاف مشروع llama.cpp الدعم الأولي لهندسة نموذج GLM-5.3-Flash (GLM5-Next)، بما في ذلك الانتقال إلى ذاكرة الفهرس الهجين وقدرات التنبؤ متعدد الرموز (MTP) المبكرة.
يضيف llama.cpp b11273 دعم classifier_pooling لمُعيدات الترتيب من طراز ModernBERT
أصدر مشروع llama.cpp الإصدار b11273، الذي يُدخل دعم طريقة `classifier_pooling` في نماذج إعادة الترتيب، ويستهدف بشكل خاص معماريات ModernBERT.
llama.cpp b11272 يحوّل عملية الربط Hexagon
أصدر مشروع llama.cpp الإصدار b11272، الذي يتضمن تحسينات للخلفية Hexagon. يركز التغيير الأساسي على تحسين عملية الربط لتحسين الأداء على عتاد Qualcomm Snapdragon.
يحمّل llama.cpp الإصدار b11266 مصفوفة A من نوع F32 بعنصرين في كل مرة لـ Vulkan على معالجات Intel
أصدر مشروع llama.cpp البناء b11266، الذي يتضمن تحسينًا لـ Vulkan يحمّل مصفوفات A من نوع F32 بعنصرين في كل مرة عندما تكون محاذاة بعامل 2. يعالج هذا التغيير مشكلات الأداء على الأجهزة من Intel حيث يكون تحميل الأعداد العائمة واحدًا تلو الآخر غير كفء، كما يصحح نقص التحقق من صحة محاذاة `a_offset` في التصحيح الأصلي.
إصلاح llama.cpp b11265 لاختيار بلاطات matmul MOE في Vulkan
يتضمن إصدار llama.cpp b11265 إصلاحًا لمعالجة نماذج Mixture of Experts (MoE) بواسطة الخلفية الخلفية Vulkan. يصحّج التحديث كيفية اختيار `mat_mul_id` لبلاطات الضرب المصفوفي، مما يعالج مشكلة أداء كانت تترك فيها العمال في حالة خمول أثناء التوجيه.
يضيف llama.cpp b11260 دعم FP32 GELU_ERF و GEGLU_ERF
أصدر مشروع llama.cpp الإصدار b11260، مقدمًا دعمًا لوظائف التنشيط FP32 GELU_ERF و GEGLU_ERF في الخلفية Hexagon. يتضمن هذا التحديث أيضًا تحسينات لتقليل ضغط المسجلات داخل النوى المرتبطة.
llama.cpp b11258 يزيل عامل الخدمة المدمج لواجهة المستخدم عندما لا يتم تقديم واجهة المستخدم
أصدر مشروع llama.cpp الإصدار b11258، الذي يتضمن إصلاحًا لسلوك عامل الخدمة الخاص بواجهة الويب المدمجة. في السابق، كان استخدام الأعلام مثل `--path` أو `--no-ui` يجعل المتصفحات تحتفظ بنسخة مخبأة من الواجهة لأن الخادم يعيد 404 لـ `/sw.js`، وهو ما لا يؤدي إلى إزالة عامل الخدمة.
إصلاح llama.cpp b11254 لجمع مدخلات الرسم البياني للتوازي عبر الأنابيب
أصدر مشروع llama.cpp الإصدار b11254، الذي يتضمن إصلاحًا لطريقة جمع موترات المدخلات في الرسم البياني للحساب. سابقًا، كان يتم ملء `graph_inputs` أثناء تقسيم الرسم البياني، مما تسبب في مشاكل مع التوازي عبر الأنابيب حيث أدت التبديلات بين الدفعات التي تستهلك مدخلات مختلفة إلى مقارنات غير صحيحة لمعرّفات الخلفية وإجبار إعادة حجز الجدولة.
يضيف llama.cpp b11240 دعم الإدخال متعدد الوسائط المtyped إلى /v1/embeddings
يدعم خادم llama.cpp الآن إدخال محتوى مtyped (رؤية، صوت، فيديو) لنقطة النهاية /v1/embeddings. يتيح هذا التحديث طلبات تضمين متعددة الوسائط عن طريق قبول مصفوفات المحتوى المغلفة على طراز OpenAI، مما يسمح بمعالجة أجزاء النص وimage_url معًا.
يضيف llama.cpp b11238 ggml_pad_ext للحشو الأيسر ويتخطى نقرات DFlash2
أصدر مشروع llama.cpp الإصدار b11238، مقدّماً تنفيذًا موحدًا للحشو الأيسر عبر الدالة الجديدة `ggml_pad_ext`. يجمع هذا التغيير الأساليب السابقة المستخدمة في مشفرات الصوت مثل Parakeet وLFM2-Audio وGranite Speech وGemma 4، مما يضمن تطابق التضمينات بتًا ببت لـ Gemma 4 مع تبسيط دعم الخلفية.
llama.cpp b11232 يُمكّن الانتباه المضيء المربّع على x86
أصدر مشروع llama.cpp الإصدار b11232، الذي يتضمن تحديثات لخلفية ggml-cpu. يركز هذا الإصدار على تمكين الانتباه المضيء المربّع لأبعاد الرأس غير المضاعفة للمتجه على بنية x86.
يضيف llama.cpp b11228 دعم الحشو الأيسر والدائري في GGML_OP_PAD الخاص بـ Metal
تقدم إصدار llama.cpp b1228 دعمًا للحشو الأيسر والدائري في عملية GGML_OP_PAD للخلفية (backend) الخاصة بـ Metal، مما ينسجم مع تطبيقات CPU و CUDA و Vulkan. يصلح هذا التغيير مشكلات الحشو الأيمن للمصادر المعاد ترتيبها ويضمن سلوكًا متسقًا عبر خلفيات الأجهزة المختلفة.
llama.cpp b11227 يحوّل causal_attn لتحسين الاستدلال البصري
أصدر مشروع llama.cpp الإصدار b11227، الذي يتضمن تحسينات للأداء تستهدف بشكل خاص التعامل مع العلم `causal_attn` أثناء المعالجة متعددة الوسائط.
إصلاح llama.cpp b11224 لنتائج mul_mat الخاطئة في Vulkan على مشاهد ذاكرة التخزين المؤقت KV ذات الخطوة
يعالج إصدار llama.cpp b11224 نتائج الحساب غير الصحيحة في واجهة Vulkan الخلفية عندما تقرأ عمليات ضرب المصفوفات شرائح من موترات أكبر وذات خطوة، مثل ذاكرات التخزين المؤقت KV.
يسمح llama.cpp b11223 بـ RANK pooling batch splitting لمُعيد ترتيب نماذج LLM السببية
يسمح خادم llama.cpp الآن بـ RANK pooling batch splitting لمُعيد ترتيب نماذج LLM السببية مثل Qwen3 وQwen3-VL، مما يحل القيود السابقة التي كانت تُفسد إعادة الترتيب للمستندات الطويلة والمتعددة الوسائط.
يضيف llama.cpp b11216 نوى FWHT لـ SYCL لعرض كتل يتجاوز 512
تطلق نسخة llama.cpp b11216 نوى تحويل والاش-هادامارد السريع (FWHT) في الخلفية SYCL التي تدعم عرض كتل أكبر من 512. سابقاً، كانت العرضات الأكبر تتراجع إلى ضرب مصفوفات كثيف GEMM بتعقيد O(n^2)؛ وتمكّن هذه التغييرات أداءً بسرعة O(n log n) لهذه الأحجام.
llama.cpp b11214 يُمكّن نواة fattn-mma على CDNA لحجم دفعات كبير
أصدر مشروع llama.cpp الإصدار b11214، الذي يتضمن تحديثًا رئيسيًا للخلفية HIP. يُفعّل هذا الإصدار نواة fattn-mma على هياكل CDNA عندما يكون dkq أكبر من 256، ويستهدف بشكل خاص تحسينات الأداء لحجم الدفعات الكبير.