github llama.cpp · منذ 1 ساعة · inference

llama.cpp b10604 يضيف دعمًا لتنسيق DSV4 الخاص بـ Deepseek 4 وملفات ثنائية لنظامي macOS/iOS

مُترجم من English → العربية

أطلق مشروع llama.cpp الإصدار b10604، مقدمًا دعمًا لتنسيق نموذج Deepseek 4 (DSV4) إلى جانب ملفات ثنائية جديدة مُعدة مسبقًا لأنظمة macOS و iOS.

يضيف دعمًا لمصفوفات sm الخاصة بـ Deepseek 4 (DSV4) بدقة خشنة أكثر لتقسيمات الرؤوس وإصلاحات لـ dspark.
يمكّن حفظ النماذج بتنسيق DSV4 ويسمح لـ dflash بالعودة على أجهزة محددة.
يتضمن وظيفة allreduce المتأخرة للخبراء المشتركين.
يوفر ملفات ثنائية لـ Apple Silicon على macOS، و XCFrameworks لنظام iOS، وملفات ثنائية محدثة لأنظمة Linux و Windows و Android و openEuler عبر وحدات المعالجة المركزية ووحدات معالجة الرسومات والخوادم الخلفية المتخصصة.

يتيح هذا الإصدار للمستخدمين تشغيل نماذج Deepseek 4 باستخدام llama.cpp ويوفر تجميعات أصلية محدثة لأجهزة Apple.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Local inference

قراءة الأصل

مقالات ذات صلة

github llama.cpp · منذ 14 ساعة · 5 مشاهدات

llama.cpp b10598 يستخدم خوارزمية تغيير الحجم pillow-accurec ويصحح resize_algo لجميع النماذج

أصدر مشروع llama.cpp الإصدار b10598، الذي يحدث وحدة mtmd لاستخدام خوارزمية تغيير حجم pillow-accurate ويصحح resize_algo لجميع النماذج. يتضمن هذا الإصدار أيضًا تحسينات للسرعة.

github llama.cpp · منذ 21 ساعة · 3 مشاهدات

إصلاح llama.cpp b10593 لرجوع DeepseekV4 وتحميل النموذج

أصدر مشروع llama.cpp الإصدار b10593، الذي يعالج مشكلات حرجة مع بنية نموذج DeepseekV4. يحل التحديث بشكل خاص فشل الرجوع الذي حدث أثناء معالجة التسلسلات المتعددة.

github llama.cpp · منذ 2 يوم · 3 مشاهدات

إصلاح llama.cpp b10584 لحجم سياق المسودة لمنع أخطاء الخادم 500

أصدر مشروع llama.cpp الإصدار b10584، معالجةً لمشكلة حرجة حيث لم يتطابق حجم سياق المسودة مع السياق المستهدف، مما تسبب في فشل طلبات الخادم بأخطاء 500.

github llama.cpp · منذ 2 يوم · 8 مشاهدات

llama.cpp b10568 يستخدم ggml_rope_set_offset() لـ DeepSeek 2

أصدر مشروع llama.cpp الإصدار b10568، الذي يحدث معالجة النماذج لاستخدام الدالة `ggml_rope_set_offset()`. يُطبق هذا التغيير جزئيًا لدعم DeepSeek 2.

media Hugging Face Forums · منذ 3 يوم · 6 مشاهدات

محرك Celestium يضيف تحسينات لاستهلاك ذاكرة الفيديو وآلية احتياطية للمعالج المركزي لـ SDXL

قدم محرك Celestium عدة ترقيات لتحسين أداء SDXL على الأجهزة ذات الذاكرة المرئية المنخفضة. تركز هذه التغييرات على إدارة الذاكرة، والاستقرار، وآليات الاحتياط لضمان توليد متسق حتى على الأنظمة المقيدة.