github llama.cpp · منذ 1 ساعة · inference

يضيف llama.cpp b10298 وظيفة حفظ/تحميل القطع لوحدات mtmd

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10298، الذي يقدم وظيفة جديدة لحفظ وتحميل القطع لوحدة mtmd. يتضمن هذا التحديث أيضًا تنظيف الكود واختبارات إضافية.

تمت إضافة وظيفة حفظ/تحميل القطع إلى وحدة mtmd.
تم تضمين إصلاحات طفيفة للكود وإضافات الاختبارات.
تم إعادة تسمية الثوابت الداخلية من _MAX إلى _COUNT.

يوفر الإصدار ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و openEuler عبر خلفيات عتادية مختلفة تشمل CPU و CUDA و Vulkan و ROCm و OpenVINO و SYCL و HIP.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Local inference

قراءة الأصل

يضيف llama.cpp b10282 عدادات spec-decode إلى نقطة النهاية /metrics

أصدر مشروع llama.cpp الإصدار b10282، الذي يقدم قدرات مراقبة جديدة للترميز التخميني. يتضمن الخادم الآن عدادات spec-decode في نقطة النهاية الخاصة به /metrics، مما يسمح للمستخدمين بتتبع مقاييس الأداء المتعلقة بهذه الميزة.

github llama.cpp · منذ 2 يوم

يسمح llama.cpp b10259 بإعادة تشكيل الموترات أثناء التحميل

أصدر مشروع llama.cpp الإصدار b10259، الذي يقدم القدرة على السماح بإعادة تشكيل الموترات أثناء عملية التحميل.

github llama.cpp · منذ 3 يوم · مشاهدتان

llama.cpp b10254 يضيف قالب DeepSeek V4 Flash 0731 ويحدّث قوالب V4

أصدر مشروع llama.cpp الإصدار b10254، مقدمًا قالب محادثة جديدًا لنموذج DeepSeek V4 Flash 0731 جنبًا إلى جنب مع تحديثات لقوالب DeepSeek V4 الحالية.

github llama.cpp · منذ 3 يوم

llama.cpp b10251 يضيف دعم MTP لنموذج GLM-4.7-Flash

أصدر مشروع llama.cpp الإصدار b10251، الذي يقدم دعم التنبؤ متعدد الرموز (MTP) لنموذج GLM-4.7-Flash.

github llama.cpp · منذ 4 يوم

يضيف llama.cpp b10238 دعم MTP لـ Qwen3-Next

أصدر مشروع llama.cpp الإصدار b10238، الذي يقدم دعم التنبؤ متعدد الرموز (MTP) لعائلة نماذج Qwen3-Next. يتضمن هذا التحديث تغييرات تنفيذية محددة للتعامل مع طبقات MTP وإصلاحات تتعلق بفحص الأنواع في بايثون داخل قاعدة الشفرة.