يشارك مطور انطباعاته الأولية حول استخدام نسخة كمّية بـ 3 بت من نموذج Mistral Medium 3.5 لمهام البرمجة. يبلغ المستخدم أن النموذج حدد مشاكل في مشروعه فاتت سائقه اليومي السابق، واصفاً أدائه بأنه "جيد حقاً" على الرغم من كونه أبطأ من نماذج Mixture-of-Experts (MoE).
- الكمّ: Unsloth Q3_KS مع كمّ ذاكرة التخزين المؤقت KV إلى q8_0 والقيم إلى q5_0.
- الأداء: حقق 8 رموز في الثانية مع نافذة سياق بحجم 80k.
- القدرة: وجد بنجاح أخطاءً في الكود كان نموذج المستخدم السابق قد أغفلها.
تعمل المنشور كاستفسار مجتمعي، سائلاً المطورين الآخرين عن تجاربهم وآرائهم حول استخدام تكوين النموذج الكثيف المحدد هذا لتطوير البرمجيات.