يقدم إصدار llama.cpp b10614 تغييرًا معماريًا كبيرًا في الخلفية (backend) الخاصة بـ Metal من خلال تقسيم مصادر العمليات وتمكين التجميع المتوازي. يتضمن هذا التحديث أيضًا عدة تطبيقات جديدة للنواة (kernel) ودعمًا لتنسيقات كمية إضافية.

  • تقسيم metallib إلى 8 مكتبات وتحميلها بالتوازي لتحسين أوقات البناء.
  • إضافة عملية col2im_1d التي تدعم أنواع البيانات f32 و f16 و bf16.
  • تنفيذ دعم CONV_2D_DW (الالتفاف العميق) لـ Metal.
  • إضافة دعم تنسيق الكمية Q2_0.
  • دمج عمليات التنشيط snake (mul, sin, sqr, mul, add).
  • إدخال نواة FWHT للخلفية الخاصة بـ Metal.

يوفر هذا الإصدار ملفات ثنائية جاهزة للتجميع لأنظمة macOS و iOS و Linux و Windows و Android و openEuler عبر وحدات المعالجة المركزية، ووحدات معالجة الرسومات، والخلفيات المختلفة للمسرعات.