أصدر مشروع llama.cpp الإصدار b10593، الذي يعالج مشكلات حرجة مع بنية نموذج DeepseekV4. يحل التحديث بشكل خاص فشل الرجوع الذي حدث أثناء معالجة التسلسلات المتعددة.

  • إصلاح التعامل مع رجوع DeepseekV4 لسياقات التسلسلات المتعددة.
  • تصحيح إجراءات تحميل النموذج العامة.
  • جعل عمليات الرجوع المعلقة للاستخدام مرة واحدة لمنع تلف الحالة.
  • ضمان مسح ذاكرة التخزين المؤقت فقط لمعرف التسلسل المحدد أثناء التحميل الكامل.
  • إضافة تأكيدات لنسب الضغط وجعل طوبولوجيا الرسم ثابتة.

يحسن هذا الإصدار الاستقرار للمستخدمين الذين يشغلون نماذج DeepseekV4 مع تسلسلات متعددة. كما يوفر ثنائيات محدثة لأنظمة macOS و Linux و Windows و Android و iOS عبر خلفيات عتادية مختلفة بما في ذلك CPU و CUDA و ROCm و Vulkan.