أصدر مشروع llama.cpp الإصدار b9974، الذي يتضمن إصلاحًا حرجًا لبنات CUDA. يمنع التحديث الانهيارات القاتلة التي كانت تحدث عندما كانت المكتبة تستعلم عن معلومات ذاكرة GPU على الأجهزة ذات الذاكرة المتاحة الصفرية أو المحدودة.
- إصلاح انهيار في cudaMemGetInfo() بجعل الخطأ غير قاتل وتعيين إجمالي/الذاكرة الفارغة بصفر للجهاز المتأثر.
- منع خوارزمية fit من محاولة وضع الطبقات على الأجهزة التي لا تحتوي على ذاكرة فارغة، مما يتجنب الانهيارات الصعبة أثناء التشغيل أو عند استخدام '-dev none'.
- تتوفر بنات macOS Apple Silicon (arm64)، بينما تم تعطيل دعم KleidiAI لهذا المنصة.
- تم توفير ثنائيات Linux لنظام Ubuntu x64 و arm64 (CPU)، Vulkan، ROCm 7.2، OpenVINO، و SYCL FP32/FP16.
- تشمل البنات Android arm64 (CPU).
- تغطي الثنائيات Windows كلًا من CPU، OpenCL Adreno، CUDA 12/13، Vulkan، OpenVINO، SYCL، و HIP.
- تم تعطيل دعم openEuler جزئيًا، مع توفر بنات محددة لعمارتين x86 و aarch64.
يضمن هذا التغيير بقاء llama.cpp مستقرًا على الأنظمة التي تكون فيها موارد ذاكرة GPU مستنفدة أو غير متاحة، مما يسمح للبرنامج بالتعامل مع هذه الظروف بشكل سلس بدلاً من الإنهاء المفاجئ.