github llama.cpp · الآن · inference

llama.cpp b10665 يضيف دعم DSpark لـ Nemotron3.5

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10665، الذي يقدم دعم DSpark لنموذج Nemotron3.5.

يضيف دعم DSpark لـ Nemotron3.5 من خلال تحديثات src/models/dflash.cpp.
يوفر ملفات قابلة للتنفيذ لأنظمة macOS (Apple Silicon و Intel)، و Linux (Ubuntu مع CPU، Vulkan، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA 12/13، Vulkan، OpenCL، OpenVINO، SYCL، ROCm)، و openEuler.

يتيح هذا الإصدار للمستخدمين تشغيل نماذج Nemotron3.5 باستخدام تنسيق DSpark عبر مجموعة واسعة من بنية الأجهزة وأنظمة التشغيل.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

يضيف llama.cpp دعم بنية Qwen3.8-Flash-Next (qwen4exp)

أضاف مشروع llama.cpp دعمًا لبنية نموذج Qwen3.8-Flash-Next (qwen4exp)، بتنفيذ مكوناته المحددة بما في ذلك الوصلات الفائقة، وشبكات دلتا ذات البوابات، وخلط الخبراء، وتضمينات التجزئة n-gram لـ PLE.

github llama.cpp · منذ 10 ساعة · 4 مشاهدات

يضيف llama.cpp b10653 TENSOR_READ_LAZY لتحميل النماذج

أصدر مشروع llama.cpp الإصدار b10653، مقدمًا ميزة TENSOR_READ_LAZY إلى محمّل النماذج الخاص به. يتضمن هذا التغيير إضافة دالة TENSOR_GET_ROW_LAZY وعلامة سطر الأوامر المقابلة --tensor-read-lazy.

github llama.cpp · منذ 10 ساعة · 3 مشاهدات

يضيف llama.cpp b10655 دعم LIGHTNING_INDEXER لعمليات Deepseek V4 على Vulkan

أصدر مشروع llama.cpp الإصدار b10655، الذي يقدم دعمًا لعملية LIGHTNING_INDEXER داخل الخلفية الخلفية (backend) لتمكين عمليات Deepseek V4.

github llama.cpp · منذ 1 يوم · 6 مشاهدات

llama.cpp b10639 يصلح افتراض حجم warptile في Vulkan

أصدر مشروع llama.cpp الإصدار b10639، والذي يتضمن إصلاحًا لخلفية Vulkan حيث كانت warptiles تفترض سابقًا أن أحجام warp أقل من أو تساوي 64. يحد هذا التغيير من حجم warp للتغلب على المشكلات مع warps الأكبر.

media Hugging Face Forums · منذ 2 يوم · 4 مشاهدات

إيدج فيرست تنشر خط أنابيب روست للتحقق من نماذج YOLO على 20 منصة طرفية

أصدرت إيدج فيرست مكتبة EdgeFirst Model Zoo على Hugging Face، والتي تتضمن نماذج YOLOv5 وYOLOv8 وYOLO11 وYOLO26 التي خضعت للتحقق عبر 20 منصة طرفية متميزة. يعتمد التحقق على خط أنابيب روست واحد يتعامل مع المعالجة المسبقة لنقل الذاكرة المباشرة بدون نسخ، وفك تشفير النموذج، والمعالجة اللاحقة مباشرةً على العتاد المستهدف.