يُظهر مستخدم على رديت تشغيل نماذج لغوية كبيرة تتجاوز 100 مليار معلمة على جهاز كمبيوتر محمول مزود بـ Intel i7-8750H وذاكرة عشوائية سعة 20 جيجابايت ووحدة معالجة رسومات GTX 1050 Mobile. يعتمد الإعداد بشكل كبير على إفراغ معاملات النموذج إلى محرك NVMe من سامسونج باستخدام الوصول عبر ملف مخصص للذاكرة (mmap).
- يستخدم المستخدم حصرياً نماذج Mixture of Experts (MoE) لتجنب إرباك وحدة المعالجة المركزية، بينما تُعتبر النماذج الكثيفة غير مناسبة.
- تشمل إعدادات الكمّ Q3_K_M للنماذج الكبيرة القياسية وQ2 للنماذج التي تتجاوز 700 مليار معلمة مع أكثر من 20 مليار معلمة نشطة.
- تشمل النماذج المختبرة المحددة Deepseek-V4-Flash (UD-IQ3_XXS) والتي تحقق سرعة 1.0-1.8 توكن في الثانية وNemotron-3-Super-120B-A12B (UD-Q3_K_M) والتي تحقق سرعة 1.5-2.5 توكن في الثانية.
- يستخدم سير العمل LM Studio مع معالجة على شكل دفعات لمهام مثل الهندسة العكسية ومراجعة الكود، مما يتسع لنافذة سياق تتراوح بين 16K و90K توكن.
يتيح هذا التكوين للمستخدمين في المناطق ذات خيارات الدفع الدولي المقيدة الاستفادة من النماذج المحلية القوية كبديل للخدمات السحابية.