أصدر مشروع llama.cpp الإصدار b11120، الذي يعالج خطأً حرجاً في الخلفية البرمجية لـ Vulkan من خلال إخفاء الرموز الداخلية. يمنع هذا التغيير مشاكل تدمير حالة dlopen المزدوج التي حدثت عندما كانت الرموز الداخلية مُصدَّرة.
يقدم الباحثون تقنية CliffCompaction، وهي طريقة ضغط تلقائي مصممة لتخفيض التكاليف لوكلاء البرمجة طويلي المدى بنسبة تصل إلى 50% ضمن سياق محدود. تحافظ الطريقة على الأداء أو تحسّنه في Terminal-Bench وتحقق نتائج متقدمة في KernelBench من خلال الحفاظ على دقة المعلومات المضغوطة عبر الاقتطاع بدلاً من إعادة الصياغة.
يقدم الباحثون تقنية CliffCompaction، وهي طريقة ضغط ذاتي مصممة للوكلاء الذين يتعاملون مع ملايين الرموز (tokens)، مما يقلل التكاليف بنسبة تصل إلى 50% ضمن سياق محدود. تحافظ الطريقة على الأداء أو تحسّنه في Terminal-Bench وتحقق نتائج رائدة في KernelBench من خلال الحفاظ على دقة المعلومات عبر الاقتطاع بدلاً من إعادة الصياغة.
أصدر مشروع llama.cpp الإصدار b11118، الذي يتضمن ميزة hex-dma جديدة تقدم ذاكرة تخزين مؤقتة لنقل الذاكرة المباشرة (DMA) أكثر ملاءمةً لمعالجة قناع HVX FA الخاص بـ Hexagon Vector eXtended.
قامت Parallel بدمج GPT-6 Astra من OpenAI في بنية وكلاء الذكاء الاصطناعي الخاصة بها، محققةً انخفاضاً بنسبة 50% في كل من وقت البحث وتكاليف البرمجيات مقارنة بالنماذج السابقة. تبلغ الشركة أن النموذج الجديد يسمح للوكلاء بإكمال أعمال المعرفة المعقدة بشكل أسرع بكثير مع الحفاظ على جودة عالية للإخراج.
أصدر مشروع llama.cpp الإصدار b11111، الذي يقدم نوى تحسين انتباه فلاش المستندة إلى Vulkan لمسارات split k في بنية Xe-LPG Plus وXe2 وXe3.
أضاف مشروع llama.cpp دعمًا لفك التشفير التخميني (speculative decoding) الخاص بـ DFlash مع نموذج HunyuanOCR من خلال كشف موترات إدخال الطبقة في الرسم البياني المستهدف. يسمح هذا التغيير لنموذج المسودة بقراءة تدفقات الباقي، مما يتيح تنفيذ طلبات الصور بنجاح بمعدل قبول مسودة يبلغ حوالي 0.5 وإخراج OCR مطابق تمامًا للبايت مقارنة بالعمليات غير التخمينية.
أصدر مشروع llama.cpp الإصدار b11104، مقدمًا ميزة جديدة تسمح لمكون llama-server بالارتباط بعدة عناوين شبكية في وقت واحد.
أصدر مشروع llama.cpp الإصدار b11102، الذي يقدم دعمًا لتحويل نماذج MiMo-V2.6.
أصدر مشروع llama.cpp الإصدار b11101، الذي يتضمن إصلاحًا لنظام البناء يسمح باستدعاءات find_package المتكررة لمكتبة llama.
تدعم الآن مكتبة Transformers التابعة لـ Hugging Face تحميل النماذج المُكمّمة بتنسيق GGUF، مستفيدةً من نوى ggml الأساسية لتحقيق أداء يقترب من llama.cpp. يتيح هذا التكامل للمطورين تشغيل نقاط التفتيش المُكمّمة مباشرةً داخل واجهة برمجة التطبيقات القياسية المعتمدة على PyTorch على الأجهزة المدعومة.
أصدر مشروع llama.cpp الإصدار b11100، الذي يعالج مشكلة تحليل محددة مع نموذج Muse Glimmer. يتضمن التغيير الرئيسي إصلاح خطأ المحلل الأول الذي تم اكتشافه أثناء تنفيذ استدعاء الأداة لهذا النموذج.
أصدر مشروع llama.cpp الإصدار b11097، الذي يقدم نواة ثنائية OpenCL لتنسيق A8 Q4_0 non-MoE dp4a.
واجه جين وي دوامة موت معدل التعلم أثناء اختبار AdamW و Muon وأحدث تنفيذ لـ Dion3 داخل OLMo-core لمحاضرة قادمة في مؤتمر PyTorch.
يخطط مستخدم لبناء نموذج لغوي كبير غير خاضع للرقابة، أصلي باللغة اليونانية، للنشر المحلي باستخدام نقطة التفتيش ilsp/Llama-Krikri-8B-Instruct. تتضمن الخطة المقترحة إزالة الرقابة عن النموذج باستخدام Heretic (heretic-llm)، وتحويله إلى تنسيق GGUF Q4_K_M، وتشغيل الاستدلال على جهاز GMKtec EVO-X3 المزود بمعالج AMD Ryzen AI MAX+ 395 عبر Vulkan.
أعلنت Together AI عن نشرات Canary، وهي ميزة تنقل حركة المرور الحية من نموذج حالي إلى نقطة تفتيش جديدة على مراحل مقفلة. يقوم هذا النظام بأتمتة آلية الأمان لتبديل النماذج من خلال إجراء فحوصات الصحة وبوابات المقاييس الاختيارية قبل تحويل حركة المرور، مما يتيح الإيقاف المؤقت والعكس التلقائيين إذا تدهورت الأداء.
يقترح الباحثون AgentRouter، وهو مصنف خفيف الوزن يحسّن سير العمل الوكيلّي متعدد الخطوات عن طريق توجيه خطوات المسار الفردية إلى طبقات نماذج مناسبة بدلاً من استخدام أحدث النماذج لكل مهمة. يعالج النظام عدم كفاءة الحلول الحالية التي تتجاهل تعقيد المهام الفرعية المتفاوتة داخل جلسة وكيل واحدة.
تُقدم إصدار llama.cpp b11095 تنفيذًا جديدًا لـ GATED_DELTA_NET (GDN) محسّنًا لـ HMX، جنبًا إلى جنب مع تحسينات مختلفة لأنوية Hexagon و Flash Attention.
يقترح الباحثون AgentRouter، وهو مصنف خفيف الوزن يحسّن سير العمل الوكيلّي متعدد الخطوات من خلال توجيه خطوات المسار الفردية إلى طبقات نماذج مناسبة بدلاً من استخدام نموذج حدودي واحد لجميع المهام. يعالج النظام عدم كفاءة الأنظمة المؤسسية التي تهدر 60-80٪ من ميزيتها الاستدلالية في مهام فرعية يمكن للنماذج الأصغر معالجتها بنفس الجودة.
أصدر مشروع llama.cpp الإصدار b11090، والذي يتضمن إصلاحًا لخطأ تجميع بلاط sm_70. يقوم التحديث بتعميم شكل بلاط دالة load_ldmatrix ذات الوسيطات الخمس لحل عدم التطابق مع هياكل Volta.