أضاف مشروع llama.cpp ضبط متجه الانتباه السريع (fa-vec) لوحدات معالجة الرسومات Apple M4 Pro عبر مساهمة جديدة في الخلفية Metal. يأتي هذا التحديث بعد العمل السابق لدعم وحدات معالجة الرسومات Apple الإضافية وتم إنشاؤه باستخدام أداة `ggml-metal-tuning` على MacBook Pro مقاس 14 بوصة من نوفمبر 2024.

  • استمرت عملية الضبط بنجاح لمدة ساعة و13 دقيقة و1 ثانية بدون أي حمل نظام آخر.
  • تدعم المساهمة أنواع البيانات f16 و q8_0 لهندسة M4 Pro.
  • تتضمن هذه النسخة ملفات ثنائية لنظام macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA، Vulkan، OpenCL، ROCm، OpenVINO، SYCL)، و openEuler.