يسعى مستخدم في مجتمع r/LocalLLaMA على رديت للحصول على شرح للنطاقات المحددة لعدد المعلمات الخاصة بنماذج اللغة الكبيرة (LLM) المحلية الشائعة، مثل ~30B و~70B و~120B و~230B. يلاحظ المؤلف الفجوات الملاحظة في أحجام النماذج ويسأل عما إذا كانت هذه الفجوات محددة بقيود ذاكرة الأجهزة على مستوى الخوادم أم بحدود ذاكرة الوصول العشوائي للفيديو (VRAM) لبطاقات الرسوميات للمستهلكين عند مستويات تكميم محددة مثل 8-bit أو Q4. يطلب المنشور توضيحًا حول كيفية تأثير إعدادات الأجهزة على الحجم المقصود لهذه الفئات المميزة من النماذج.
مستخدم رديت يسأل عن مبررات حجم الأجهزة لفجوات أحجام نماذج LLM
مُترجم من English → العربية