تقدم الخلفية البرمجية Metal نوى جديدة لضرب المصفوفات لـ 2 إلى 16 صفًا من المصادر، مما يتيح تسريع فك التشفير التخميني على أجهزة Apple Silicon التي تفتقر إلى واجهة برمجة التطبيقات للوحدات المتجهة (tensor API). تقوم هذه النوى بإلغاء كمّ الأوزان مرة واحدة وتقسم أبعاد K عبر مجموعات الخيوط، مما يوفر مكاسب أداء كبيرة مقارنةً بأساليب ضرب المصفوفة-المتجه السابقة.

  • تنفذ نوى MMA محددة لأنواع Q4_0 وQ8_0 وQ5_K، ومسارات عامة لأنواع F32 وF16 وأنواع الكمّ الأخرى.
  • تفعّل هذه النوى على عتاد MTLGPUFamilyApple7+ عندما يتجاوز عدد الصفوف العتبات التي تتفوق فيها على نوى ضرب المصفوفة-المتجه.
  • تضيف منطق الدمج لدمج عمليات MUL_MAT وADD، وتجميع ما يصل إلى 16 نسخة متجاورة من f32 بنفس التخطيط في استدعاء واحد.
  • تحدث محسّن الرسم البياني والمُشفّر للتعامل مع خصائص الجهاز، وفحوصات التزامن، وتتبع العرض لمجموعات الدمج.

يحل هذا التحسين تراجعات الأداء في فك التشفير التخميني على عتاد M3 Ultra من خلال ضمان بقاء العمليات المتجهة فعالة حتى مع أحجام الدفعات الصغيرة.