أبلغ مستخدم عن نجاحه في تشغيل نموذج Qwen3.6 27B المُكمَّم ثلاثيًا (ternary-quantized) على بطاقتي NVIDIA RTX 3090 GPU. يحقق هذا الإعداد معدل معالجة يبلغ 60 توكنًا في الثانية مع قدرات استدعاء أدوات مستقرة.
- تم تخصيص 100k من فتحات ذاكرة التخزين المؤقت KV لكل بطاقة GPU.
- إجمالي استهلاك الذاكرة VRAM هو حوالي 21 جيجابايت عبر البطاقتين.
- يلاحظ المستخدم أن جودة المخرجات تبدو جيدة، على الرغم من عدم إجراء أي اختبارات للبرمجة.