أصدر مشروع llama.cpp الإصدار b10232، الذي يقدم دعمًا لروابط DeepSeek V4 الفائقة عبر الخلفية المعدنية. يضيف هذا التحديث تنفيذ العمليات GGML_OP_DSV4_HC_COMB و GGML_OP_DSV4_HC_PRE و GGML_OP_DSV4_HC_POST.

  • تستخدم النوى الجديدة تحسينات سجل SIMDgroup والخلط.
  • تمت إضافة أنابيب إرسال Metal لدعم عدّات تكرار Sinkhorn للإنتاج وعروض التضمين.
  • تتوفر ثنائيات جاهزة لـ macOS (Apple Silicon و Intel) و iOS و Linux و Windows و Android و openEuler عبر خلفيات عتاد مختلفة بما في ذلك CPU و CUDA و ROCm و Vulkan و OpenVINO.

يتيح هذا الإصدار الاستدلال الفعال لنماذج DeepSeek V4 على أجهزة Apple Silicon باستخدام إطار عمل Metal.