أفاد مستخدم بأن Qwen 27B، بعد تكميمه إلى q6kxl وتشغيله مع التنبؤ متعدد الرموز على نظام يحتوي على وحدات GPU من نوعي 4090 و3090، حقق سرعات فك تشفير تتراوح بين 50-90 رمز/ثانية وسرعات ملء أولي تتراوح بين 1500-2200 رمز/ثانية. يتفاعل النموذج بشكل موثوق مع واجهات برمجة التطبيقات المختلفة ويولد كودًا وظيفيًا لتطبيقات الصفحة الواحدة، ومستندات LaTeX، والمحللات، وبرامج الزحف.
- النموذج: Qwen 27B (تكميم q6kxl)
- العتاد: نظام 4090+3090 مع ذاكرة VRAM سعة 96 جيجابايت
- سرعة فك التشفير: 50-90 رمز/ثانية
- سرعة الملء الأولي: 1500-2200 رمز/ثانية
- القدرة: استيعاب قواعد كود بحجم لائق مع الحفاظ على المخطط الحالي للتحديثات.
يُبرز هذا التكوين كنموذج محلي أول يوفر تماسكًا وسرعة موثوقين على هذا العتاد دون الحاجة إلى ضبط مكثف للأدوات أو الأطر.