github llama.cpp · منذ 2 ساعة · inference

mtmd يضيف دعم WebP عبر ffmpeg

مُترجم من English → العربية

يدعم مكون mtmd في llama.cpp الآن تنسيق صورة WebP من خلال التكامل مع ffmpeg.

يتيح معالجة صور WebP داخل إطار عمل mtmd.
يعتمد على ffmpeg لوظيفة فك التشفير.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

llama.cpp b10568 يستخدم ggml_rope_set_offset() لـ DeepSeek 2

أصدر مشروع llama.cpp الإصدار b10568، الذي يحدث معالجة النماذج لاستخدام الدالة `ggml_rope_set_offset()`. يُطبق هذا التغيير جزئيًا لدعم DeepSeek 2.

github llama.cpp · منذ 12 ساعة · 4 مشاهدات

إصدار llama.cpp v0.2.0 مع ggml 0.21.0 ودعم Kleidiai SME2

أطلق مشروع llama.cpp الإصدار 0.2.0، الذي يتضمن مزامنة مع مكتبة ggml التي ارتفعت إلى الإصدار 0.21.0. يقدم هذا التحديث تحسينات متعددة في الخلفيات وميزات جديدة عبر منصات عتاد مختلفة.

media Hugging Face Forums · منذ 18 ساعة · مشاهدة واحدة

محرك Celestium يضيف تحسينات لاستهلاك ذاكرة الفيديو وآلية احتياطية للمعالج المركزي لـ SDXL

قدم محرك Celestium عدة ترقيات لتحسين أداء SDXL على الأجهزة ذات الذاكرة المرئية المنخفضة. تركز هذه التغييرات على إدارة الذاكرة، والاستقرار، وآليات الاحتياط لضمان توليد متسق حتى على الأنظمة المقيدة.

github llama.cpp · منذ 21 ساعة · 3 مشاهدات

llama.cpp b10549 يُمكّن تقسيم الموترات لـ LFM2/LFM2MOE

أصدر مشروع llama.cpp الإصدار b10549، الذي يقدم بشكل أساسي دعمًا لتقسيم الموترات في نماذج LFM2 و LFM2MOE.

github vLLM · منذ 1 يوم · 4 مشاهدات

vLLM v0.28.0rc2 يضيف DFlash2 Spec Decode مع الالتفاف المحلي ومحدد المرشحين

أصدر مشروع vLLM الإصدار 0.28.0rc2، والذي يتضمن ميزة فك التشفير التكهنات DFlash2.