github llama.cpp · منذ 1 ساعة · inference

إصلاح llama.cpp b10085 لتوجيه Qwen3-VL بمحاذاة استيفاء تضمين الموقع

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10085، والذي يتضمن إصلاحًا لاستيفاء تضمين الموقع لنموذج الرؤية Qwen3-VL لحل عدم تطابق إحداثيات التوجيه.

يغير هذا الأسلوب الاستيفاء من الثنائي الخطي+إزالة الهلوسات الافتراضي (align_corners=False) إلى align_corners=True، متطابقًا مع التنفيذ المرجعي لـ transformers.
يصحح هذا مشاكل القياس في إحداثيات التوجيه التي كانت تنمو سابقًا مع حجم الصورة وتختلف حسب المحور للصور غير المربعة.
تتوفر الملفات الثنائية لأنظمة macOS (Apple Silicon و Intel)، iOS، Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، Android، Windows (CPU، CUDA 12/13، Vulkan، OpenCL، OpenVINO، SYCL، HIP)، و openEuler.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

llama.cpp b10069 يضيف دعم البث المفتوح لـ Adreno MUL_MAT

أصدر مشروع llama.cpp الإصدار b10069، والذي يتضمن تحديثات محددة لـ OpenCell لبطاقات Qualcomm Adreno. تتضمن التغيير الرئيسي دعم عمليات البث لنواة Adreno MUL_MAT والالتزام بإزاحات العرض لمتغير Q8_0 MUL_MAT لتمكين وظيفة التدفق المتعدد في llama-server.

github llama.cpp · منذ 4 يوم · مشاهدة واحدة

llama.cpp b10068 يدور ذاكرة التخزين المؤقت K/V المُحقنة لـ DFlash

أصدر مشروع llama.cpp الإصدار b10068، الذي يقدم تغييرًا في تنفيذ نموذج DFlash. يعدل التحديث src/models/dflash.cpp لتدوير ذاكرة التخزين المؤقت للمفتاح/القيمة (K/V) المُحقنة عند استخدام كميّة K/V.

github llama.cpp · منذ 4 يوم · مشاهدة واحدة

llama.cpp b10067 يستبعد جدول توجيه DeepSeek-V4 من التكميم

أصدر مشروع llama.cpp الإصدار b10067، الذي يتضمن إصلاحًا لأداة `llama-quantize` للتعامل بشكل صحيح مع نماذج DeepSeek-V4. يمنع التحديث المحوّل من محاولة تحويل الموتر `ffn_gate_tid2eid`، وهو جدول فهرس token-to-expert i32، إلى نوع float.

github llama.cpp · منذ 5 يوم

يضيف llama.cpp b10066 دعم نواة kernel_gemm_moe_q6_k_f32_ns عبر OpenCL

أصدر مشروع llama.cpp الإصدار b10066، مقدمًا دعمًا للنواة `kernel_gemm_moe_q6_k_f32_ns` عبر OpenCL. يتيح هذا التحديث تحميل واستخدام مكتبة النوى الثنائية المحددة هذه داخل الإطار.

github llama.cpp · منذ 5 يوم · 5 مشاهدات

إصدار llama.cpp b10064 مع تحسين عملية قلب المصفوفة في OpenCL

أطلق مشروع llama.cpp الإصدار b10064، والذي يتضمن تغييرًا في الخلفية البرمجية لـ OpenCL. يعدل هذا التحديث تنسيق الكمية q4_K عن طريق قلب مقاييس noshuffle لتمكين القراءات المتراصة.