تم إصدار مشروع جديد يُسمى vLLM Launcher كتطبيق سطح مكتب لنظام Windows مصمم لإدارة استدلال النماذج اللغوية الكبيرة محليًا عبر WSL2. يسمح هذا الأداة للمستخدمين بالتحكم في العديد من خلفيات المحركات، بما في ذلك vLLM و SGLang و llama.cpp، من واجهة رسومية واحدة.
أصدر مشروع llama.cpp الإصدار b10331، والذي يتضمن إصلاحًا لنقطة النهاية `get_info` للخادم. سابقًا، عندما لم يتم توفير دليل عمل حالي صريح، كانت الوظيفة تعود بشكل غير صحيح إلى دليل عمل عملية الخادم، حتى إذا كان tools runtime مُعدًا.
أصدر مشروع llama.cpp الإصدار b10330، مقدمًا تحسينًا لـ CUDA يدمج عمليات rms_norm والضرب و RoPE في نواة واحدة. يرافق هذا التغيير فحوصات نطاق الذاكرة للعمليات المدمجة وحالات اختبار جديدة للأوزان البثية.
أصدر مشروع llama.cpp الإصدار b10328، الذي يقدم دعمًا أوليًا لعزل الأدوات داخل مكون الخادم باستخدام Docker. يتضمن هذا التحديث توثيقًا وتكييفات للكود لفصل صناديق رمل I/O للأدوات وإعادة تسمية أعلام التكوين ذات الصلة.
أصدر مشروع llama.cpp الإصدار b10327، والذي يتضمن إصلاحًا لعدد الخيوط والكتل في إطلاقات نواة النسخ المُكمَّم على CUDA. يعالج هذا التحديث مشكلة تم تحديدها في طلب السحب #26731.
أصدر مشروع llama.cpp الإصدار b10326، الذي يعدل كيفية حساب قياسات التوقيت من خلال تضمين تمرير المولد الصوتي.
أصدر مشروع llama.cpp الإصدار b10321، الذي يتضمن إصلاحًا حاسمًا لعمليتي GGML_OP_NORM وGGML_OP_RMS_NORM على Metal. يحل التحديث مشكلة كانت تؤدي فيها مجموعات الخيوط ذات الأحجام التي تترك مجموعة SIMD جزئية إلى حسابات غير صحيحة للوسيط والتباين بسبب فقدان المجاميع الجزئية.
أصدر مشروع llama.cpp الإصدار b10322، والذي يتضمن تحسينًا للأداء يدمج تحميلات نافذة SSM_CONV في الخلفية SYCL.
أصدر مشروع llama.cpp الإصدار b10313، الذي يقدم مجدول الاستخدام الأقل مؤخراً (LRU) لمكون الخادم الخاص به. يتضمن هذا التحديث التعامل مع تجميع الطلبات وإصلاحات لحالات البث.
أصدر مشروع llama.cpp الإصدار b10311، والذي يتضمن إصلاحًا لخط أنابيب Qwen3-TTS. يحل التحديث مشكلة حيث كان النموذج يقرأ العبارة المدخلة مرتين أثناء التوليد.
أطلق مشروع llama.cpp الإصدار b10312، والذي يتضمن تحديثاً محدداً لمكون الخادم. يعالج التغيير الرئيسي مشكلة كانت تؤدي إلى طرد النماذج المزدحمة من الموزع.
أصدر مشروع llama.cpp الإصدار b10307، والذي يتضمن إصلاحًا لكود GPU الخاص بـ SYCL لتحليل عوامل القياس UE4M3 المستخدمة في الكمّية NVFP4 بشكل صحيح.
أصدر مشروع llama.cpp الإصدار b10305، الذي يقدم دعمًا لعمليات DSv4 المحددة داخل الخلفية SYCL. يتضمن هذا التحديث تنفيذ المشغلات LIGHTNING_INDEXER و DSV4_HC_COMB و DSV4_HC_POST و DSV4_HC_PRE.
تُقدّم إصدار llama.cpp b10306 تحسينات في الأداء للخلفية SYCL، مستهدفةً على وجه التحديد عمليات وحدة الخطية المقننة (GLU). يضيف التحديث مسارًا سريعًا متواصلًا لعمليات GLU المدمجة ويوحّد النوى المختلفة سابقًا لمشاركة مُطلق مشترك.
أصدر مشروع llama.cpp الإصدار b10298، الذي يقدم وظيفة جديدة لحفظ وتحميل القطع لوحدة mtmd. يتضمن هذا التحديث أيضًا تنظيف الكود واختبارات إضافية.
أصدر مشروع llama.cpp الإصدار b10293، والذي يتضمن دمج التكامل المستمر من AMD ROCم للهندسة المعمارية gfx1151 وحل مشاكل الدقة على وحدات معالجة الرسومات المتكاملة RDNA3.5.
أصدر مشروع llama.cpp الإصدار b10291، والذي يتضمن إصلاحات حرجة للخلفية (backend) الخاصة بـ Vulkan إلى جانب تحديثات المنصة القياسية. تعالج التغييرات التقنية الرئيسية مشاكل حجم دفعات الإرسال وتقدم قدرات تشخيصية جديدة لأخطاء السائق.
أصدر مشروع llama.cpp الإصدار b10290، مقدمًا دالة جديدة `ggml_build_forward_order` إلى مكتبة ggml. يعالج هذا التغيير خطأً في الرسم البياني للصوت mtmd حيث كان استخدام `ggml_build_forward_expand` كمؤشر ترتيب نقي يؤدي إلى تنفيذ الفروع غير المحددة بإدخالات قديمة.
يعزز إصدار llama.cpp b10289 عملية تجوال الدلائل في file_glob_search للخادم لمنع الحلقات اللانهائية على وصلات ويندوز، ويحسن الإبلاغ عن الأخطاء للدلائل غير المقروءة.
يُبرز أداة جديدة تُسمى QuantCheck أن نقطة التفتيش النهائية للتدريب المسبق قد لا تكون الخيار الأمثل للتكميم رباعي البتات، حيث يمكن أن تظل مقاييس الأداء ثابتة بينما تزداد الهشاشة. لاحظ المؤلف هذا النمط على Pythia-160m، حيث تعرضت نقطة التفتيش النهائية لضرر في الجودة يقارب أربعة أضعار مقارنة بنقطة تفتيش سابقة بنفس الجودة.