أصدر مشروع llama.cpp الإصدار b11368، الذي يقدم العينة الاحتمالية لعمليات عمل المسودة البسيطة و MTP (Multi-Token Prediction). يعدل هذا التحديث آلية المسودة لاستخدام الاختيار الاحتمالي مع التحقق من الأهداف عبر عينة الرفض.
- يستخدم المُعد الآن العينة الاحتمالية، ويتم التعامل مع التحقق من الأهداف بواسطة عينة الرفض.
- يتم إسقاط مخازن spec_draft_q القديمة قبل بدء عملية المسودة.
- تدعم الطلبات المقيدة بالقواعد النحوية الآن عينة الرفض والعودة إلى عينة argmax.
- تفعّل علم جديد العينة الاحتمالية للمسودة، مع السلوك الافتراضي الجشع.
- لم يعد مُعيّن المسودة يشارك تدفق RNG الخاص بالهدف، ويتم إعادة تطبيع التوزيعات بعد القناع.
يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS و Linux و Windows و Android و openEuler عبر خلفيات عتادية مختلفة تشمل CUDA و ROCm و Vulkan و OpenVINO و SYCL.