github llama.cpp · منذ 8 ساعة · inference

يضيف llama.cpp b10655 دعم LIGHTNING_INDEXER لعمليات Deepseek V4 على Vulkan

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10655، الذي يقدم دعمًا لعملية LIGHTNING_INDEXER داخل الخلفية الخلفية (backend) لتمكين عمليات Deepseek V4.

تمت إضافة عملية LIGHTNING_INDEXer إلى الخلفية الخلفية (backend).
تم تحديث lightning_indexer.comp و ggml-vulkan.cpp لنقل اختزال الضرب النقطي ذي 128 مسارًا من شجرة الذاكرة المشتركة إلى subgroupAdd.
تضمنت تغييرات التنظيف مثل تخطي فحوصات الحدود وإلغاء التعديلات السابقة لـ FA_K_ONLY.
تم استعادة ترتيب المخزن المؤقت K/V المتداخل وإزالة منطق FA_K_ONLY.

يوفر هذا التحديث لمستخدمي Vulkan القدرة على تشغيل عمليات Deepseek V4 باستخدام التنفيذ الجديد لـ LIGHTNING_INDEXER.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

يضيف llama.cpp دعم بنية Qwen3.8-Flash-Next (qwen4exp)

أضاف مشروع llama.cpp دعمًا لبنية نموذج Qwen3.8-Flash-Next (qwen4exp)، بتنفيذ مكوناته المحددة بما في ذلك الوصلات الفائقة، وشبكات دلتا ذات البوابات، وخلط الخبراء، وتضمينات التجزئة n-gram لـ PLE.

github llama.cpp · منذ 8 ساعة · 3 مشاهدات

يضيف llama.cpp b10653 TENSOR_READ_LAZY لتحميل النماذج

أصدر مشروع llama.cpp الإصدار b10653، مقدمًا ميزة TENSOR_READ_LAZY إلى محمّل النماذج الخاص به. يتضمن هذا التغيير إضافة دالة TENSOR_GET_ROW_LAZY وعلامة سطر الأوامر المقابلة --tensor-read-lazy.

github llama.cpp · منذ 1 يوم · 6 مشاهدات

llama.cpp b10639 يصلح افتراض حجم warptile في Vulkan

أصدر مشروع llama.cpp الإصدار b10639، والذي يتضمن إصلاحًا لخلفية Vulkan حيث كانت warptiles تفترض سابقًا أن أحجام warp أقل من أو تساوي 64. يحد هذا التغيير من حجم warp للتغلب على المشكلات مع warps الأكبر.

media Hugging Face Forums · منذ 1 يوم · 4 مشاهدات

إيدج فيرست تنشر خط أنابيب روست للتحقق من نماذج YOLO على 20 منصة طرفية

أصدرت إيدج فيرست مكتبة EdgeFirst Model Zoo على Hugging Face، والتي تتضمن نماذج YOLOv5 وYOLOv8 وYOLO11 وYOLO26 التي خضعت للتحقق عبر 20 منصة طرفية متميزة. يعتمد التحقق على خط أنابيب روست واحد يتعامل مع المعالجة المسبقة لنقل الذاكرة المباشرة بدون نسخ، وفك تشفير النموذج، والمعالجة اللاحقة مباشرةً على العتاد المستهدف.

lab Hugging Face Blog · منذ 2 يوم · مشاهدة واحدة

يستخدم Papers with Code خدمات Hugging Face للبحث الهجين في الأوراق البحثية

قام Papers with Code بتنفيذ نظام بحث هجين يجمع بين الاسترجاع الدلالي والبحث بالكلمات المفتاحية لمساعدة المستخدمين على العثور على أوراق بحثية ذات صلة في مجال الذكاء الاصطناعي. يستفيد هذا النظام من Hugging Face Jobs وStorage Buckets وInference Endpoints لإدارة خط أنابيب التضمين (embedding) وتقديم استعلامات منخفضة زمن الوصول.