أصدر مشروع llama.cpp الإصدار b10313، الذي يقدم مجدول الاستخدام الأقل مؤخراً (LRU) لمكون الخادم الخاص به. يتضمن هذا التحديث التعامل مع تجميع الطلبات وإصلاحات لحالات البث.
- يدعم الخادم الآن مجدول LRU لإدارة الاتصالات.
- تم تنفيذ منطق تجميع الطلبات للتعامل مع الخروج من طابور الانتظار.
- تمت إضافة اختبارات للتحقق من سلوك الجدولة الجديد.
- تم إصلاح خطأ يؤثر على حالة البث.
يوفر هذا الإصدار ملفات ثنائية محدثة لأنظمة macOS وLinux وWindows وAndroid وiOS عبر خلفيات عتادية مختلفة بما في ذلك CPU وCUDA وVulkan وROCm وOpenVINO.