github llama.cpp · منذ 1 ساعة · inference

يصلح llama.cpp b10663 أخطاء إزاحة الأوزان RMS_NORM_MUL

مُترجم من English → العربية

أصدر مشروع llama.cpp الإصدار b10663، والذي يتضمن إصلاحًا لأخطاء إزاحة الأوزان RMS_NORM_MUL التي تؤثر على التطبيع المجمّع والمنتشر.

يصلح أخطاء إزاحة الأوزان RMS_NORM_MUL للتطبيع المجمّع/المنتشر (PR #27798).
يوفر ملفات ثنائية لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، ROCm 7.14، OpenVINO، SYCL)، وAndroid، وWindows (CPU، OpenCL Adreno، CUDA 12/13، Vulkan، OpenVINO، SYCL، ROCm 7.14)، وopenEuler.

يضمن هذا الإصدار سلوك تطبيع صحيح للبنى النموذجية المحددة، بينما يوفر ملفات ثنائية محدثة عبر جميع المنصات المدعومة.

الأهمية 1/3 الموثوقية 1/3 llama.cpp Inference efficiency

قراءة الأصل

llama.cpp b10665 يضيف دعم DSpark لـ Nemotron3.5

أصدر مشروع llama.cpp الإصدار b10665، الذي يقدم دعم DSpark لنموذج Nemotron3.5.

github llama.cpp · منذ 2 ساعة · مشاهدة واحدة

llama.cpp b10662 يضيف ctx-per-slot للـ KV كاش الموحد

أصدر مشروع llama.cpp الإصدار b10662، مقدمًا وسيطًا جديدًا `--kv-unified-per-slot` يسمح للمستخدمين بتحديد السياق لكل فتحة لـ KV كاش الموحد. يحل هذا التغيير محل آلية كسر السياق السابقة بفتحات بركة السياق ويعيد هيكلة التنفيذ الأساسي.

github llama.cpp · منذ 3 ساعة · مشاهدتان

يضيف llama.cpp دعم بنية Qwen3.8-Flash-Next (qwen4exp)

أضاف مشروع llama.cpp دعمًا لبنية نموذج Qwen3.8-Flash-Next (qwen4exp)، بتنفيذ مكوناته المحددة بما في ذلك الوصلات الفائقة، وشبكات دلتا ذات البوابات، وخلط الخبراء، وتضمينات التجزئة n-gram لـ PLE.

github llama.cpp · منذ 4 ساعة · مشاهدة واحدة

llama.cpp b10658 يضيف دعم DFlash2 ويصلح خطأ mrope

أصدر مشروع llama.cpp الإصدار b10658، مقدمًا دعمًا لمواصفة DFlash2 التي تتضمن الالتفاف المحلي ومحدد المرشحين. يعالج هذا التحديث أيضًا خطأ محددًا في mrope داخل قاعدة الشفرة.

github llama.cpp · منذ 4 ساعة · مشاهدة واحدة

يقوم llama.cpp بتضمين ملفات DLL الخاصة بـ HIP runtime مع إصدار ROCم لنظام ويندوز

قام مشروع llama.cpp بتحديث إصداره الخاص بـ ROCm لنظام ويندوز لدمج ملفات DLL اللازمة لـ HIP runtime مباشرة بجانب الملفات الثنائية. يعالج هذا التغيير المشكلة #26929 من خلال ضمان تحميل نسخة HIP runtime الصحيحة بدلاً من التداخل المحتمل مع نسخة السائق في System32.