Un utilisateur de la communauté r/LocalLLaMA sur Reddit cherche une explication concernant les plages de nombre de paramètres spécifiques des grands modèles de langage (LLM) locaux populaires, tels que ~30B, ~70B, ~120B et ~230B. L'auteur note les écarts observés dans les tailles de modèles et demande si ces niches sont déterminées par les contraintes de mémoire du matériel au niveau serveur ou par les limites de VRAM des GPU grand public à des niveaux de quantification spécifiques comme 8-bit ou Q4. Le post demande des éclaircissements sur la manière dont les configurations matérielles influencent le dimensionnement prévu de ces catégories de modèles distinctes.