github llama.cpp · الآن · inference

إضافة llama.cpp b10727 دعم دمج الأنواع المُكمَّاة

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10727، الذي يُدخل دعم الدمج لأنواع البيانات المُكمَّاة. يساهم في هذا التحديث DeepSeek-V4-Flash-0731 ويشمل ثنائيات (binaries) لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر بوابات عتادية متنوعة تشمل CPU وCUDA وROCm وVulkan.

يوفر هذا الإصدار ثنائيات مُعدّة مسبقاً لعدة منصات وبنية معمارية:

Apple Silicon (arm64) وIntel (x64) على macOS
iOS عبر XCFramework
توزيعات Linux بما في ذلك Ubuntu x64 وarm64 وs390x، والمتغيرات التي تدعم Vulkan وROCm 7.14 وOpenVINO وSYCL
Windows x64 وarm64 مع خيارات CPU وOpenCL Adreno وCUDA 12/13 وVulkan وOpenVINO وSYCL وROCm 7.14
Android arm64 (CPU)
تكوينات openEuler x86 وaarch64

يُمكّن هذا الإصدار المستخدمين من الاستفادة من وظيفة الدمج المُكمَّاة الجديدة عبر مجموعة واسعة من أنظمة التشغيل المعتمدة ومسرعات العتاد.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Hugging Face Inference efficiency

قراءة الأصل

مقالات ذات صلة

github llama.cpp · منذ 2 ساعة · مشاهدة واحدة

llama.cpp b10726 يسرع معالجة طلبات نماذج IQ بالدُفعات الكبيرة باستخدام AVX2

أصدر مشروع llama.cpp الإصدار b10726، الذي يقدم تحسينات أداء كبيرة لمعالجة أحجام الدُفعات الكبيرة في النماذج المُكمَّاة بـ IQ. يستفيد التحديث الأساسي من تعليمات AVX2 لتسريع تكميات IQ الشبكية عبر عمليات GEMM بالدُفعات.

github llama.cpp · منذ 4 ساعة · مشاهدتان

llama.cpp b10723 يضبط مسارات الكمية OpenCard لبطاقات Intel Xe-LP

أصدر مشروع llama.cpp الإصدار b10723، والذي يتضمن تحسينات محددة لـ OpenCL على عتاد الرسومات Intel Xe-LP. يركز التحديث على تحسين أداء إنشاء الأوتار (TG) والتهيئة المسبقة (PP) من خلال ضبط نوى الكمية.

github llama.cpp · منذ 7 ساعة · مشاهدة واحدة

llama.cpp b10718 يوسع دمج MOE ليشمل specdec والرموز المتعددة

أصدر مشروع llama.cpp الإصدار b10718، والذي يتضمن تحديثًا مهمًا لخلفية CUDA. أبرز تغيير هو توسيع دمج Mixture of Experts (MOE) لدعم الترميز التخميني (specdec)، مما يعالج القيود السابقة حيث كان دمج MOE glu و topk-router مقيدًا بمعالجة رمز واحد فقط في كل مرة.

github llama.cpp · منذ 9 ساعة · 3 مشاهدات

إصدار llama.cpp b10717 يعزز استرجاع معلومات ذاكرة SYCL

أصدر مشروع llama.cpp الإصدار b10717، والذي يتضمن تحسينًا محددًا لخلفية SYCL لوحدة معالجة الرسومات Intel. يحسن هذا التحديث القدرة على استرجاع معلومات الذاكرة المتاحة من خلال الاستفادة من واجهة برمجة التطبيقات L0 SYCL.

github llama.cpp · منذ 15 ساعة · 3 مشاهدات

llama.cpp b10712 يضيف اختيار radix top-k لـ Vulkan لنموذج Qwen 3.8 Flash Next

أصدر مشروع llama.cpp الإصدار b10712، مقدمًا برنامج تظليل جديد لترتيب radix top-k مصمم لدعم قيم k الأكبر من أو تساوي 1024. يستهدف هذا التحديث بشكل خاص نموذج Qwen 3.8 Flash Next ويتضمن اختبارات ذات صلة بالإضافة إلى دمج top-k qsa.