تم إصدار مشروع جديد يُسمى vLLM Launcher كتطبيق سطح مكتب لنظام Windows مصمم لإدارة استدلال النماذج اللغوية الكبيرة محليًا عبر WSL2. يسمح هذا الأداة للمستخدمين بالتحكم في العديد من خلفيات المحركات، بما في ذلك vLLM و SGLang و llama.cpp، من واجهة رسومية واحدة.
أصدر مشروع llama.cpp الإصدار b10330، مقدمًا تحسينًا لـ CUDA يدمج عمليات rms_norm والضرب و RoPE في نواة واحدة. يرافق هذا التغيير فحوصات نطاق الذاكرة للعمليات المدمجة وحالات اختبار جديدة للأوزان البثية.
أصدر مشروع llama.cpp الإصدار b10328، الذي يقدم دعمًا أوليًا لعزل الأدوات داخل مكون الخادم باستخدام Docker. يتضمن هذا التحديث توثيقًا وتكييفات للكود لفصل صناديق رمل I/O للأدوات وإعادة تسمية أعلام التكوين ذات الصلة.
تم تحديث خادم وواجهة مستخدم llama.cpp لعرض عنصر تحكم دليل العمل بشكل مشروط. في السابق، كان يظهر هذا العنصر كلما تم تعريض أي أداة مدمجة، حتى لو لم تستخدمه أي أداة فعليًا.
أصدر مشروع llama.cpp الإصدار b10327، والذي يتضمن إصلاحًا لعدد الخيوط والكتل في إطلاقات نواة النسخ المُكمَّم على CUDA. يعالج هذا التحديث مشكلة تم تحديدها في طلب السحب #26731.
أصدر مشروع llama.cpp الإصدار b10313، الذي يقدم مجدول الاستخدام الأقل مؤخراً (LRU) لمكون الخادم الخاص به. يتضمن هذا التحديث التعامل مع تجميع الطلبات وإصلاحات لحالات البث.
أطلق مشروع llama.cpp الإصدار b10312، والذي يتضمن تحديثاً محدداً لمكون الخادم. يعالج التغيير الرئيسي مشكلة كانت تؤدي إلى طرد النماذج المزدحمة من الموزع.
أصدر مشروع llama.cpp الإصدار b10307، والذي يتضمن إصلاحًا لكود GPU الخاص بـ SYCL لتحليل عوامل القياس UE4M3 المستخدمة في الكمّية NVFP4 بشكل صحيح.
أصدر مشروع llama.cpp الإصدار b10298، الذي يقدم وظيفة جديدة لحفظ وتحميل القطع لوحدة mtmd. يتضمن هذا التحديث أيضًا تنظيف الكود واختبارات إضافية.
أصدر مشروع llama.cpp الإصدار b10282، الذي يقدم قدرات مراقبة جديدة للترميز التخميني. يتضمن الخادم الآن عدادات spec-decode في نقطة النهاية الخاصة به /metrics، مما يسمح للمستخدمين بتتبع مقاييس الأداء المتعلقة بهذه الميزة.
تقدم إصدار llama.cpp b10271 ميزة دليل العمل لكل محادثة إلى واجهة المستخدم، مما يسمح للمستخدمين بتعيين والتنقل في الأدلة بشكل مستقل لكل جلسة دردشة.
أصدر مشروع llama.cpp الإصدار b10270، مقدمًا دعمًا لنموذج Qwen3-TTS. يتضمن هذا التحديث تغييرًا كاسرًا لملف llama-tثنائي وينفذ تعديلات هيكلية كبيرة للتعامل مع سير العمل الجديد لتحويل النص إلى كلام.
أصدر مشروع llama.cpp الإصدار b10259، الذي يقدم القدرة على السماح بإعادة تشكيل الموترات أثناء عملية التحميل.
أصدر مشروع llama.cpp الإصدار b10254، مقدمًا قالب محادثة جديدًا لنموذج DeepSeek V4 Flash 0731 جنبًا إلى جنب مع تحديثات لقوالب DeepSeek V4 الحالية.
أصدر مشروع llama.cpp الإصدار b10251، الذي يقدم دعم التنبؤ متعدد الرموز (MTP) لنموذج GLM-4.7-Flash.
أصدر مشروع llama.cpp الإصدار b10238، الذي يقدم دعم التنبؤ متعدد الرموز (MTP) لعائلة نماذج Qwen3-Next. يتضمن هذا التحديث تغييرات تنفيذية محددة للتعامل مع طبقات MTP وإصلاحات تتعلق بفحص الأنواع في بايثون داخل قاعدة الشفرة.
أصدر مشروع llama.cpp الإصدار b10237، الذي يقدم دعم التنبؤ متعدد الرموز (MTP) لنموذج DeepSeek V3.2.
أصدر مشروع llama.cpp الإصدار b10232، الذي يقدم دعمًا لروابط DeepSeek V4 الفائقة عبر الخلفية المعدنية. يضيف هذا التحديث تنفيذ العمليات GGML_OP_DSV4_HC_COMB و GGML_OP_DSV4_HC_PRE و GGML_OP_DSV4_HC_POST.
أصدر مشروع llama.cpp الإصدار b10219، والذي يتضمن إصلاحًا لواجهة سطر الأوامر (CLI) للحفاظ على محتوى الاستدلال داخل سجل الدردشة. سابقًا، بينما كان `llama-cli` يجمع الاستدلال من التدفق للعرض، كان يخزن فقط محتوى المساعد في الرسائل، مما منع العلم `--reasoning-preserve` من إعادة حقن الأفكار السابقة في الأدوار اللاحقة.
أصدر مشروع llama.cpp الإصدار b10213، مقدمًا دعمًا لتكميم ذاكرة التخزين المؤقت للمفتاح والقيمة الدوارة. هذا التحديث متاح عبر مجموعة واسعة من المنصات ومسرعات الأجهزة.