github llama.cpp · منذ 9 ساعة · inference

يضيف llama.cpp b11320 معالج لهجة Harmony الخاصة بـ LLM-jp-4.1

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b11320، والذي يتضمن معالج لهجة جديدًا لنموذج LLM-jp-4.1.

يضيف التحديث دعمًا لهجة Harmony الخاصة بـ LLM-jp-4.1 لمعالجة مشكلات التوافق مع مكوّن تقسيم الكلمات الخاص بها وتنسيق استدعاء الأدوات المتوازي.
يوفر الإصدار ثنائيات لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، CUDA 12/13، ROCm، OpenVINO، SYCL، Snapdragon)، وAndroid، وWindows، وopenEuler.
حُزم واجهة المستخدم المستقلة أيضًا ضمن التوزيع.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Local inference

llama.cpp b11307 يحافظ على ترتيب الدفعة للترميز التنبؤي

أصدر مشروع llama.cpp الإصدار b11307، الذي يصلح ترتيب إدخال الطبقات للحفاظ على تسلسل الدفعة الأصلي أثناء الترميز التنبؤي. يضمن هذا التغيير الحفاظ على ترتيب الرموز بشكل صحيح للتضمينات غير المقنعة NextN والتوافق مع تقسيمات الأوتار.

github llama.cpp · منذ 22 ساعة · مشاهدة واحدة

يصلح llama.cpp b11301 تجاوز السليم في ggml/gguf

أصدر مشروع llama.cpp الإصدار b11301، والذي يتضمن إصلاحًا لمشكلة تجاوز السليم داخل مكونات ggml و gguf. يعالج هذا التحديث منطق التحقق لمنع الأخطاء المحتملة عند التعامل مع موترات ذات صفر عنصر.

github llama.cpp · منذ 23 ساعة · 3 مشاهدات

إصلاح llama.cpp b11302 لسباق البيانات في ThreadSanitizer داخل الفهرس المتناثر

أصدر مشروع llama.cpp الإصدار b11302، الذي يعالج مشكلة توافق حرجة تم تحديدها بواسطة ThreadSanitizer في خط أنابيب الاختبار المستمر (CI). يحل التحديث سباق بيانات داخل آلية الانتباه المتناثر حيث كانت خيوط المعالج المركزي متعددة تكتب بشكل غير صحيح في نفس عناصر الذاكرة.

github llama.cpp · منذ 23 ساعة · مشاهدتان

يضيف llama.cpp b11298 دعمًا لتنسيق dflash للتحويل واستخراج الميزات

أصدر مشروع llama.cpp الإصدار b11298، الذي يقدم دعمًا لتنسيق dflash. يتيح هذا التحديث كلًا من تحويل النماذج إلى هذا التنسيق وقدرات استخراج الميزات اللاحقة.

github llama.cpp · منذ 1 يوم · 3 مشاهدات

إصلاح llama.cpp b11284 لعمليات GET_ROWS في OpenVINO على مشاهد الأوزان المُكمَّاة

أصدر مشروع llama.cpp الإصدار b11284، الذي يتضمن إصلاحًا للخلفية (backend) الخاصة بـ OpenVINO للتعامل بشكل صحيح مع عمليات GET_ROWS على مشاهد الأوزان المُكمَّاة.