أصدر مشروع llama.cpp الإصدار b9923، والذي يتميز بإعادة هيكلة كبيرة لمكون server-stream لمعالجة مشكلات مخزن إعادة تشغيل أحداث الخادم المرسلة (SSE). يقدم هذا التحديث نمط pimpl ويحدد نطاق الوظائف العامة للتدفق تحت بادئة `server_stream_` لتحسين تنظيم الكود.

  • يتم الآن حماية حالة الجلسة والمدير بواسطة قفل متبادل (mutex)، مع تعيين شروط condvar تحت القفل مع الحفاظ على cancelled كذري للاستطلاع الخالي من القفل.
  • تم اختصار التعليقات للتركيز على أسباب التزامن، وعمر الكائن، وترتيب التنفيذ، وإزالة تلك التي تعيد فقط صياغة الكود.
  • تم نقل تتبعات التدفق إلى مستوى التصحيح (debug) لتقليل ضوضاء السجلات الافتراضية أثناء تشخيصات التشغيل الأولي.
  • تم نقل تعداد `stream_read_status` إلى ملف .cpp ليبقى خلف حدود pimpl.

يتضمن الإصدار ملفات ثنائية لأنظمة macOS (Apple Silicon و Intel)، و iOS، و Linux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، و Android، و Windows (CPU، CUDA 12/13، Vulkan، OpenCL، OpenVINO، SYCL، HIP)، و openEuler.