github llama.cpp · منذ 1 يوم · inference

يضيف llama.cpp b11260 دعم FP32 GELU_ERF و GEGLU_ERF

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b11260، مقدمًا دعمًا لوظائف التنشيط FP32 GELU_ERF و GEGLU_ERF في الخلفية Hexagon. يتضمن هذا التحديث أيضًا تحسينات لتقليل ضغط المسجلات داخل النوى المرتبطة.

تمت إضافة دعم FP32 GELU_ERF و GEGLU_ERF لـ Hexagon.
تم تقليل ضغط المسجلات في نوى hexagon.
متوفرة ملفات ثنائية لنظام macOS Apple Silicon و Intel و iOS.
تغطي عمليات البناء لنظام Linux منصات CPU و Vulkan و CUDA 12/13 و ROCm 10.0 و OpenVINO و SYCL و Snapdragon.
تتضمن عمليات البناء لنظام Android arm64 دعمًا لـ NPU Snapdragon Hexagon.
توفر إصدارات Windows خيارات CPU و OpenCL Adreno و CUDA 12/13 و Vulkan و OpenVINO و SYCL و ROCm 10.0.

يوسع هذا الإصدار التوافق مع الأجهزة لوظائف تنشيط محددة ويحسن الكفاءة على المسرعات المدعومة.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency Local inference

قراءة الأصل

مقالات ذات صلة

github llama.cpp · منذ 7 ساعة · مشاهدتان

إصلاح llama.cpp b11284 لعمليات GET_ROWS في OpenVINO على مشاهد الأوزان المُكمَّاة

أصدر مشروع llama.cpp الإصدار b11284، الذي يتضمن إصلاحًا للخلفية (backend) الخاصة بـ OpenVINO للتعامل بشكل صحيح مع عمليات GET_ROWS على مشاهد الأوزان المُكمَّاة.

github llama.cpp · منذ 10 ساعة · مشاهدتان

يضيف llama.cpp دعم GLM-5.3-Flash مع إصلاحات k-pool و MTP

أضاف مشروع llama.cpp الدعم الأولي لهندسة نموذج GLM-5.3-Flash (GLM5-Next)، بما في ذلك الانتقال إلى ذاكرة الفهرس الهجين وقدرات التنبؤ متعدد الرموز (MTP) المبكرة.

github llama.cpp · منذ 12 ساعة · مشاهدتان

llama.cpp b11272 يحوّل عملية الربط Hexagon

أصدر مشروع llama.cpp الإصدار b11272، الذي يتضمن تحسينات للخلفية Hexagon. يركز التغيير الأساسي على تحسين عملية الربط لتحسين الأداء على عتاد Qualcomm Snapdragon.

github llama.cpp · منذ 1 يوم · مشاهدة واحدة

llama.cpp b11258 يزيل عامل الخدمة المدمج لواجهة المستخدم عندما لا يتم تقديم واجهة المستخدم

أصدر مشروع llama.cpp الإصدار b11258، الذي يتضمن إصلاحًا لسلوك عامل الخدمة الخاص بواجهة الويب المدمجة. في السابق، كان استخدام الأعلام مثل `--path` أو `--no-ui` يجعل المتصفحات تحتفظ بنسخة مخبأة من الواجهة لأن الخادم يعيد 404 لـ `/sw.js`، وهو ما لا يؤدي إلى إزالة عامل الخدمة.

media Hugging Face Forums · منذ 2 يوم · 4 مشاهدات

يسمح Krea 2 LoRA Studio بالتدريب على Colab T4 المجاني

أطلق جوردان إبشتاين مشروع Krea 2 LoRA Studio، وهو مشروع مصمم لجعل سير عمل Krea 2 LoRA الكامل قابلاً للاستخدام على وحدة معالجة الرسومات Google Colab T4 المجانية. تتعامل الأداة مع قيود الذاكرة من خلال تنفيذ سير عمل مرحلي يدير تحضير التخزين المؤقت والتدريب وتوليد المعاينات بشكل منفصل.