github llama.cpp · منذ 1 ساعة · inference

llama.cpp b10235 يضيف عملية SILU_BACK لـ f32

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10235، مقدمًا عملية جديدة هي SILU_BACK للدقة f32. يتضمن هذا التحديث تنفيذ المشغل silu_back وإزالةAssertions الزائدة من ملف ggml-metal-ops.cpp.

يوفر هذا الإصدار ملفات ثنائية (binaries) لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، وAndroid، وWindows (CPU، CUDA 12/13، Vulkan، OpenCL، OpenVINO، SYCL، HIP)، وopenEuler.

يوسع هذا التحديث دعم الواجهات الخلفية المتاحة ويضيف عمليات حسابية محددة لمستخدمي llama.cpp.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

قراءة الأصل

llama.cpp b10232 يطبق اتصالات DeepSeek V4 الفائقة في Metal

أصدر مشروع llama.cpp الإصدار b10232، الذي يقدم دعمًا لروابط DeepSeek V4 الفائقة عبر الخلفية المعدنية. يضيف هذا التحديث تنفيذ العمليات GGML_OP_DSV4_HC_COMB و GGML_OP_DSV4_HC_PRE و GGML_OP_DSV4_HC_POST.

github llama.cpp · منذ 3 ساعة · 3 مشاهدات

llama.cpp b10231 يضيف دعم sidecar لـ DSpark

أصدر مشروع llama.cpp الإصدار b10231، مقدمًا دعمًا لـ sidecar فك التشفير التخميني DSpark. يسمح هذا التحديث بحل ملفات dspark بشكل مشابه لـ sidecars التخمينية الأخرى، مع تطبيق العلامة -hfd عليها والأولوية للاختيار التلقائي لـ dspark على dflash بسبب رأس Markov الإضافي.

github llama.cpp · منذ 7 ساعة

يصلح llama.cpp b10229 مشكلة عدم تصريف بيانات التعريف لـ OpenCL

أصدر مشروع llama.cpp الإصدار b10229، الذي يتضمن إصلاحًا حرجًا لخلفية OpenCL. يعالج التحديث مشكلة فشل كتابة بيانات التعريف أثناء إنهاء البرنامج.

media Hugging Face Forums · منذ 22 ساعة · 6 مشاهدات

هارديك كومار ينشر مصفوفة أسعار استنتاج HF تظهر انتشار أسعار يصل إلى 4.66x

توفر مجموعة بيانات جديدة نُشرت على Hugging Face مصفوفة أسعار شاملة لمزودي استنتاج النماذج، مما يكشف عن تفاوتات كبيرة في التكاليف للنماذج نفسها بين بائعين مختلفين.

github llama.cpp · منذ 1 يوم · 7 مشاهدات

llama.cpp b10219 يحافظ على reasoning_content في سجل الدردشة

أصدر مشروع llama.cpp الإصدار b10219، والذي يتضمن إصلاحًا لواجهة سطر الأوامر (CLI) للحفاظ على محتوى الاستدلال داخل سجل الدردشة. سابقًا، بينما كان `llama-cli` يجمع الاستدلال من التدفق للعرض، كان يخزن فقط محتوى المساعد في الرسائل، مما منع العلم `--reasoning-preserve` من إعادة حقن الأفكار السابقة في الأدوار اللاحقة.