github llama.cpp · منذ 1 يوم · inference

llama.cpp b11025 يوسع دعم Nemotron MTP

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b11025، والذي يتضمن توسيعًا لدعم التنبؤ متعدد الرموز (MTP) من Nemotron.

يعالج التحديث الإصلاح الأول لهذه الميزة ويزيل الإعلانات غير الضرورية.
يتم توفير الملفات الثنائية لأنظمة macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، CUDA 12/13، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، OpenCL، CUDA 12/13، Vulkan، OpenVINO، SYCL، ROCm)، و openEuler.
يتوفر أيضًا إصدار واجهة مستخدم مستقل للتحميل.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Local inference

يضيف llama.cpp b11046 دعم OpenCL لنواة flash_attn_f32_f16_bin

أصدر مشروع llama.cpp الإصدار b11046، الذي يقدم دعمًا لـ OpenCL للنواة `flash_attn_f32_f16_bin`. يتضمن هذا التحديث أيضًا وظيفة الحشو المحمي (guarded prefill) لـ Flash Attention على أجهزة OpenCL.

github llama.cpp · منذ 5 ساعة · مشاهدة واحدة

llama.cpp b11042 يضيف نواة OpenCL الثنائية A8 Q6_K

أصدر مشروع llama.cpp الإصدار b11042، الذي يقدم نواة OpenCL ثنائية جديدة لنماذج A8 Q6_K غير MoE. يتضمن هذا التحديث أيضًا إصلاحات لتوافق التخطيط داخل الخلفية الخاصة بـ OpenCL.

github llama.cpp · منذ 9 ساعة · مشاهدة واحدة

يضيف llama.cpp الإصدار b11039 دعم نمط SWA إلى الحافظة والنماذج المحمّلة

أصدر مشروع llama.cpp البناء b11039، الذي يحدث الحافظة لكتابة أنماط الانتباه ذات النافذة المنزلقة (SWA) وهندسة MLA SWA لجميع النماذج التي تستخدم SWA. يضمن التغيير كتابة `sliding_window_pattern` كعلم لكل طبقة بدلاً من تجميعها إلى قيمة قياسية، مما يحافظ على تمثيل البيانات بدقة.

github llama.cpp · منذ 1 يوم · 6 مشاهدات

تحديث llama.cpp b11024 لـ OpenVINO إلى الإصدار 2026.4 وإصلاح التحذيرات

أصدر مشروع llama.cpp البناء b11024، والذي يحدث بشكل أساسي تكامل OpenVINO إلى الإصدار 2026.4.

github llama.cpp · منذ 2 يوم · 4 مشاهدات

إصلاح llama.cpp b11019 لمحاذاة بيانات GGUF للملفات المضمنة وإضافة تحميل LoRA

أصدر مشروع llama.cpp الإصدار b11019، الذي يعالج خطأً حرجاً حيث كانت ملفات GGUF المضمنة عند إزاحات غير متوافقة تُعيد بيانات موتر غير صحيحة. يقوم التحديث بمحاذاة قسم بيانات GGUF بالنسبة لبداية الملف بدلاً من الإزاحة 0، مما يضمن التحميل الصحيح للنماذج المضمنة.