يفكر مستخدم في r/LocalLLaMA في إضافة بطاقة RTX 3060 ثانية إلى تكوينه الحالي، الذي يتضمن معالج i5-8500 وذاكرة DDR4 سعة 48 جيجابايت وبطاقة RTX 3060 واحدة بسعة VRAM تبلغ 12 جيجابايت. يقوم حالياً بتشغيل Gemma 4 26B-A4B (Q4_K_M) لكنه يجد أنه يفتقر إلى الفهم، بينما يعد نموذج 31B بطيئاً جداً بسبب نقص ذاكرة VRAM.
- يريد المستخدم معرفة ما إذا كان بإمكان بطاقتي RTX 3060 تحميل نسخة مضغوطة من نوع Q4 أو Q5 لنموذج كثيف بحجم 31 مليار معلمة.
- يقلق بشأن انخفاض الأداء الناتج عن توصيل فتحة PCIe الثانية كـ x4 بدلاً من x16.
- يسأل المستخدم عما إذا كان تقسيم الطبقات (layer splitting) سيساعد في التخفيف من الاختناقة الناتجة عن عرض النطاق الترددي المحدود لفتحة x4.