يُقدم إصدار llama.cpp b9840 دعم التحويل لنموذج DeepSeek V4، بما في ذلك معالجة خاصة للإصدار Pro. يدمج هذا التحديث البنية الجديدة في المكتبة جنبًا إلى جنب مع تحسينات داخلية متنوعة وإصلاحات للأخطاء.
- تمت إضافة تحويل dsv4، و llm_graph_input_dsv4، ووظيفة حفظ وتحميل الحالة.
- تم تمكين Flash Attention (FA) مع آليات الحشو وإعادة استخدام الرسم البياني اللازمة.
- دعم معالجة التسلسلات المتعددة وقدرات الفحص الجزئي.
- تم إصدار ثنائيات لأنظمة macOS و Linux و Android و Windows و openEuler عبر وحدات المعالجة المركزية، ووحدات معالجة الرسومات، والمسرعات المتخصصة مثل ROCm و SYCL و OpenVINO.
يتيح هذا الإصدار للمستخدمين تشغيل نماذج DeepSeek V4 محليًا باستخدام llama.cpp على مجموعة واسعة من تكوينات الأجهزة.