يعالج إصدار llama.cpp b10144 مشكلات حرجة في الخادم وواجهة المستخدم تتعلق بالتدفقات القابلة للاستئناف، وتحديداً إصلاح معالجة أسماء النماذج التي تحتوي على شرائط مائلة. كما يحل الأخطاء حيث لم يتم إلغاء الطلبات أو استئنافها بشكل صحيح أثناء تحميل النموذج.

  • يعيد هيكلة مسارات التدفق القابلة للاستئناف لاستخدام سلسلة الاستعلام `conv_id`، مما يسمح لأسماء النماذج التي تحتوي على شرائط مائلة بالبقاء سليمة بعد الترميز في وضع الموجه.
  • يلغي الطلبات المعلقة عندما يتوقف تدفقها أثناء تحميل النموذج من خلال تسجيل المحادثة قبل انتظار التحميل التلقائي.
  • يمكّن استئناف التدفق بعد إعادة تحميل الصفحة أثناء تحميل النموذج عن طريق فصل طلبات الجلسة عن منافذ العميل وإرجاع حالة 503 لإعادة المحاولة.
  • يعيد إظهار تقدم تحميل النموذج في واجهة المستخدم بعد تحديث الصفحة من خلال الحفاظ على حالة التدفق المعلقة.

تضمن هذه التغييرات بقاء المحادثات قوية ضد انقطاعات العميل ومشاكل ترميز عناوين URL، مما يمنع الطلبات اليتيمة وفقدان الجلسات أثناء مرحلة تحميل النموذج.