أطلق مشروع turboquant الإصدار 0.3.0، والذي يتضمن تصحيحًا مكونًا من ثلاثة أسطر يصحّ مشكلة دقة طويلة الأمد في كود CUDA الخاص بـ llama.cpp يؤثر على وحدات GPU من نوع Tesla P100.
- يوسع التصحيح استثناءً موجودًا لعمارة sm_61 ليشمل sm_60 (Pascal P100)، مما يفرض حساب fp16 الصحيح بدلاً من المسار المعيب السابق.
- أظهرت نتائج الاختبار على نموذج Qwen3.6-27B تحسّن في انحراف KL الوسيط من 0.0023 إلى 0.000001، مع ارتفاع توافق أعلى توكن من 96.5% إلى 99.9%.
- تشير نتائج اختبار الأداء إلى زيادة سرعة فك التشفير بنسبة تقارب 1.4%، بينما بقي الحشو الأولي (prefill) مطابقًا ضمن حدود الضوضاء.
- تم التحقق من أن التصحيح لا يؤثر على العمائر الأخرى مثل Volta أو Ampere أو Blackwell، والتي تستخدم نوى مختلفة.
يحسّن هذا التحديث بشكل كبير دقة وقيمة بطاقات Tesla P100 للاستدلال المحلي للنماذج اللغوية الكبيرة (LLM)، مع معالجة خطأ كان يقلل سابقًا من جودة المخرجات دون تقديم فوائد للأداء.