أطلق مشروع llama.cpp الإصدار b9940، مقدمًا تهيئةً لمعامل `params.offline` في `llama-bench`. يرافق هذا التحديث مجموعة شاملة من الثنائيات المبنية مسبقًا عبر أنظمة تشغيل متعددة ومسرعات عتادية.

  • تتوفر إصدارات macOS Apple Silicon (arm64) وIntel (x64)، مع تعطيل دعم KleidiAI.
  • تغطي ثنائيات Linux كلًا من Ubuntu x64 وarm64 CPU، وVulkan، وROCm 7.2، وOpenVINO، وSYCL FP32/FP16.
  • تتضمن إصدارات Windows متغيرات CPU، وOpenCL Adreno، وCUDA 12.4/13.3، وVulkan، وOpenVINO، وSYCL، وHIP.
  • يتم توفير ثنائيات Android arm64 (CPU) وiOS XCFramework للنشر على الأجهزة المحمولة.
  • تشمل الإصدارات المبنية لـ openEuler لكل من بنية x86 وaarch64 مع دعم ACL Graph.

يوفر هذا الإصدار أدوات محدثة لمعايرة المعاملات غير المتصلة، جنبًا إلى جنب مع توافق واسع عبر المنصات للاستدلال المحلي للنماذج.