github llama.cpp · منذ 13 ساعة · inference

يصلح llama.cpp b10754 قراءات خارج الحدود في نوى صور OpenCL الخاصة بـ Adreno

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10754، الذي يتضمن إصلاحًا حاسمًا لـ OpenCL على وحدات معالجة الرسومات من نوع Adreno لمنع قراءات الذاكرة خارج الحدود في نوى معالجة الصور.

تم تقييد جلب صف فك التشفير q4_K GEMV الآن على شبكة x مُضافة إليها حشو.
يتم فرض عقد التجزئة (tiling) لعمليات الضرب GEMM للصور KQ/KQV بشكل صارم.
يتم تحديد منطق التقسيم للصورة KQ/KQV عند وقت الإرسال (dispatch)، بدلاً من الاعتماد على الخطوات (strides).

يضمن هذا التحديث الاستقرار والصحة للمستخدمين الذين يشغلون llama.cpp مع تسريع OpenCL على أجهزة Adreno.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

قراءة الأصل

llama.cpp b10766 يضيف دعم الرؤية لـ DeepSeek 4

أصدر مشروع llama.cpp الإصدار b10766، والذي يتضمن إصلاحًا لدعم إدخال الرؤية بشكل صحيح لنموذج DeepSeek 4.

github llama.cpp · منذ 1 ساعة · مشاهدة واحدة مباشر

إضافة llama.cpp b10762 دعمًا لـ DeepSeek-V4-Flash-Vision-Exp

أصدر مشروع llama.cpp الإصدار b10762، الذي يقدم دعمًا لنموذج DeepSeek-V4-Flash-Vision-Exp. يتضمن هذا التحديث أيضًا معالجة عدد الرموز الدنيا والقصوى من واجهة سطر الأوامر.

github llama.cpp · منذ 1 ساعة · مشاهدة واحدة مباشر

llama.cpp b10763 يفعّل preserve_reasoning افتراضيًا

أصدر مشروع llama.cpp الإصدار b10763، الذي يغيّر السلوك الافتراضي للحجّة الأساسية `preserve_reasoning` لقالب الدردشة. يسجل الخادم الآن الحالة الفعّالة لهذا الوسيطة ويصدر تحذيرًا عندما يكون مفعّلًا افتراضيًا في القوالب التي تدعمه.

github llama.cpp · منذ 8 ساعة · مشاهدة واحدة

إصلاح llama.cpp b10760 لاستقرار استنتاج Qwen3-tts-0.6b

أصدر مشروع llama.cpp الإصدار b10760، والذي يتضمن إصلاحات محددة لنموذج Qwen3-tts-0.6B لمنع عدم الاستقرار العددي أثناء الاستنتاج.

github llama.cpp · منذ 9 ساعة · مشاهدة واحدة

llama.cpp b10758 يضيف دمج MUL_MAT و MUL_MAT_ID لـ Hexagon

أصدر مشروع llama.cpp الإصدار b10758، مقدمًا قدرات دمج MUL_MAT و MUL_MAT_ID لمعالج DSP الخاص بـ Hexagon. يتضمن هذا التحديث أيضًا عدة إصلاحات لتحسين الاستقرار والأداء على عتاد Qualcomm.