أصدر مشروع llama.cpp الإصدار b9909، الذي يقدم معلومات عن التوقيت والتقدم إلى تدفق واجهة برمجة التطبيقات /responses. يتوفر هذا التحديث عبر منصات متعددة بما في ذلك macOS وLinux وWindows وAndroid وopenEuler.

  • التغيير الوظيفي الرئيسي هو إضافة تفاصيل التوقيت والتقدم في الإخراج المتدفق لنقطة نهاية واجهة برمجة التطبيقات /responses.
  • يتم توفير ثنائيات جاهزة للبناء لمعماريات مختلفة مثل Apple Silicon وIntel x64 وARM64 وs390x.
  • تشمل دعم وحدات معالجة الرسومات CUDA 12.4 و13.3 وVulkan وROCm 7.2 وOpenVINO وSYCL وHIP.
  • تم تعطيل دعم KleidiAI لـ macOS Apple Silicon في هذا الإصدار.

يتيح هذا التحديث للمستخدمين مراقبة تقدم استجابات واجهة برمجة التطبيقات بشكل أكثر فعالية.