تم إنشاء نقاش على ريديت لمشاركة تكوينات تشغيل llama-server المجربة والمثبتة، والمصممة خصيصًا للمستخدمين الذين يمتلكون بطاقات ذاكرة مرئية بسعة 24 جيجابايت، مثل RTX 3090 و7900XTX وRTX 4090.
يجب أن تستغل التكوينات الذاكرة المرئية (VRAM) إلى أقصى حد ممكن وتوفر ما لا يقل عن 200,000 رمز من ذاكرة التخزين المؤقت KV. يُطلب من المشاركين تضمين كمية ذاكرة الوصول العشوائي للنظام، ونظام التشغيل، وتفاصيل وحدة المعالجة المركزية لمساعدة في تقييم أداء التخزين المؤقت وجدواه.
يهدف هذا المورد إلى مساعدة المستخدمين على تحسين إعدادات llama-server لتحقيق أقصى كفاءة ضمن قيود الأجهزة المحددة.