أصدر مشروع llama.cpp الإصدار b9966، الذي يعالج مشكلة أداء في ميزة -sm tensor. يزيل التحديث 29 إعادة ترجمة لأنماط التعبيرات النمطية لكل موتر لكل توكن كانت تحدث سابقًا على خيط فك التشفير.
- كان الكود يعيد بناء 29 نمطًا للتعبيرات النمطية من الصفر لكل موتر لكل توكن.
- تقوم الإصلاحات بتخزين هذه الأنماط في الذاكرة المؤقتة بحيث يتم بناؤها مرة واحدة وإعادة استخدامها.
- يقلل هذا التغيير من دورات وحدة المعالجة المركزية المهدرة على خيط فك التشفير دون تغيير السلوك.