أصدر مشروع llama.cpp الإصدار b10605، والذي يتضمن تحسينًا رئيسيًا لهندسة Mamba2. يقوم التحديث بتسوية إسقاطات الإدخال والإخراج لنماذج Mamba2 لإرسال عمليات الضرب العام للمصفوفات (GEMM) بدلاً من عمليات الضرب العام للمصفوفة بالمتجه (GEMV).
- يسوي إسقاطات mamba2 في/خارج لتمكين إرسال GMM بدلاً من GEMV.
- يزيل عمليات إعادة تشكيل الإخراج الزائدة داخل تنفيذ Mamba2.
يوفر هذا الإصدار ملفات ثنائية لنظام macOS و Linux و Windows و Android و openEuler عبر خلفيات عتادية مختلفة تشمل CPU و CUDA و ROCm و Vulkan و OpenVINO.