Un utilisateur de Reddit remet en question la viabilité à long terme de l'écosystème actuel de modèles linguistiques larges (LLM) à poids ouverts, citant la décision récente de Qwen de ne pas publier les versions 122B, 35B, 27B et 9B. La crainte est que ces modèles plus grands aient performé si fortement que l'équipe ait choisi de ne pas les publier immédiatement en tant que poids ouverts.

  • Des analyses récentes suggèrent que les modèles open-source sont actuellement en retard de 2 à 4 mois par rapport aux systèmes de pointe.
  • Le délai de Qwen de 1 à 2 mois ou plus avant la publication des poids ouverts pourrait entraîner un élargissement continu de l'écart.
  • La discussion se concentre sur les modèles qui peuvent être exécutés de manière réaliste sur du matériel grand public, par opposition aux configurations locales massives capables d'exécuter des modèles de plus de 500B.

L'auteur se demande si cette tendance conduira éventuellement à un autre changement significatif dans le paysage open-source, similaire à ce qui s'est produit avec les modèles Meta-Llama.