L'article pose une question concernant l'utilité pratique des modèles plus petits à poids ouverts (2B–7B) pour le déploiement local, demandant s'ils deviennent suffisants pour les flux de travail personnels par rapport aux modèles plus grands.

Il demande spécifiquement aux utilisateurs qui exécutent actuellement des modèles localement de partager leurs expériences concernant :

  • Les configurations spécifiques du modèle et du matériel qu'ils utilisent.
  • Les tâches où les petits modèles ont performé étonnamment bien.
  • Des configurations réelles plutôt que des chiffres de benchmarks.

L'auteur insiste sur le désir de voir des exemples d'utilisation pratiques du monde réel au lieu de métriques de performance théoriques.