github llama.cpp · منذ 5 يوم · inference

يضيف llama.cpp نواة ثنائية A8 Q8_0 non-MoE dp4a لـ OpenCL

مُترجم من English → العربية

أضاف مشروع llama.cpp نواة ثنائية A8 Q8_0 non-MoE dp4a لـ OpenCL.

يتم تتبع التغيير كطلب سحب #29439 في مستودع ggml-org/llama.cpp.
يقدم دعمًا لتنسيق كمّية محدد (A8 Q8_0) باستخدام مجموعة التعليمات dp4a داخل الخلفية الخلفية لـ OpenCL.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

يضيف llama.cpp b11298 دعمًا لتنسيق dflash للتحويل واستخراج الميزات

أصدر مشروع llama.cpp الإصدار b11298، الذي يقدم دعمًا لتنسيق dflash. يتيح هذا التحديث كلًا من تحويل النماذج إلى هذا التنسيق وقدرات استخراج الميزات اللاحقة.

media Hugging Face Forums · منذ 1 ساعة · مشاهدة واحدة مباشر

ThermaCompute AI تطلق CrashLens لتصنيف سجلات تعطل GPU المحلية

أطلقت ThermaCompute AI أداة CrashLens، وهي أداة مجانية ومحلية مصممة لمساعدة المهندسين على التحقيق في تعطل وحدات معالجة الرسومات من خلال تحليل ملفات السجلات. تحدد الأداة أنماط الفشل المعروفة داخل السجلات وتقترح خطوات محددة للتحقيق.

github llama.cpp · منذ 7 ساعة · مشاهدتان

إصلاح llama.cpp b11284 لعمليات GET_ROWS في OpenVINO على مشاهد الأوزان المُكمَّاة

أصدر مشروع llama.cpp الإصدار b11284، الذي يتضمن إصلاحًا للخلفية (backend) الخاصة بـ OpenVINO للتعامل بشكل صحيح مع عمليات GET_ROWS على مشاهد الأوزان المُكمَّاة.

github llama.cpp · منذ 9 ساعة · مشاهدة واحدة

إصدار llama.cpp b11280 يقلل من مزامنة allreduce للصفوف باستخدام مخازن مضبوطة على المضيف

أصدر مشروع llama.cpp الإصدار b11280، والذي يتضمن تغييرًا لتقليل مزامنة allreduce للصفوف عن طريق استخدام مخازن مضبوطة على المضيف.

github llama.cpp · منذ 10 ساعة · مشاهدة واحدة

يحدد llama.cpp b11282 CUDA_ARCH لمرور جهاز MUSA

أصدر مشروع llama.cpp الإصدار b11282، الذي يتضمن إصلاحًا لتعريف ماكرو `CUDA_ARCH` لمرور جهاز MUSA. سابقًا، لم يحدد رأس مورد MUSA هذه المتغير، مما تسبب في تقييم اختبارات الهندسة المعمارية في مصادر ggml-cuda المشتركة إلى صفر ونتج عن ذلك أجسام نواة فارغة.