أصدر مشروع llama.cpp الإصدار b9910، الذي يعالج عدم توافق حرج بين ملاءمة نموذج المسودة وتحميله في مكون الخادم. يتضمن هذا التحديث إصلاحًا لمشكلة تقييد استدعاء التقدم أثناء تحميل نموذج المسودة وإعادة هيكلة التهيئة التكهنية.
- توحد تهيئة معاملات التنبؤ للمسودة/متعدد الرموز، والنموذج، وتحميل السياق.
- ينقل منطق التهيئة التكهن إلى speculative.cpp.
- يغير model_dft وctx_dft في server_context_impl لاستخدام مؤشرات خام.
- يعطل دعم KleidiAI لـ macOS Apple Silicon في هذا الإصدار.
- يوفر ثنائيات لأنظمة macOS (Apple Silicon وIntel)، وiOS، وLinux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، وAndroid، وWindows (CPU، OpenCL، CUDA 12/13، Vulkan، OpenVINO، SYCL، HIP)، وopenEuler.
يضمن هذا الإصدار تشغيلًا مستقرًا للخادم عند استخدام فك التشفير التكهن من خلال تصحيح آليات التهيئة والتحميل الأساسية.