أطلق مشروع llama.cpp الإصدار b10312، والذي يتضمن تحديثاً محدداً لمكون الخادم. يعالج التغيير الرئيسي مشكلة كانت تؤدي إلى طرد النماذج المزدحمة من الموزع.

  • الخادم: يمنع طرد النماذج المزدحمة (PR #26567).
  • macOS/iOS: يوفر ثنائيات لأجهزة Apple Silicon (arm64) وIntel (x64)، بالإضافة إلى إطار عمل iOS XCFramework. تم تعطيل دعم KleidiAI على نظام macOS.
  • Linux: يقدم تجميعات لأنظمة Ubuntu x64 وarm64 وs390x، وكذلك متغيرات Vulkan وROCm 7.2 وOpenVINO وSYCL FP32 وSYCL FP16.
  • Android: يتضمن تجميعاً لوحدة المعالجة المركزية arm64.
  • Windows: يدعم وحدات المعالجة المركزية x64 وarm64، وOpenCL Adreno، وCUDA 12/13، وVulkan، وOpenVINO، وSYCL، وHIP.
  • openEuler: تتوفر تجميعات لـ x86 (310p، 910b ACL Graph) وaarch64 (310p، 910b ACL Graph)، بينما تم تعطيل طلب السحب القياسي.

يضمن هذا الإصدار التوفر المستمر للنماذج النشطة في عمليات نشر الخوادم، ويوفر ثنائيات شاملة عبر أنظمة التشغيل الرئيسية ومسرعات الأجهزة.