Un utilisateur de Reddit rapporte que l'exécution du modèle open-source Gemma 4 31B quantifié en 5 bits sur un GPU grand public doté de 32 Go de VRAM offre une qualité nettement supérieure à celle du niveau gratuit standard de ChatGPT.
- L'utilisateur a acheté un GPU avec 32 Go de VRAM pour exécuter des modèles de langage locaux.
- Il a comparé les performances de Gemma 4 31B à celles du modèle par défaut d'OpenAI après épuisement des messages initiaux.
- L'utilisateur décrit la différence de qualité comme substantielle, suggérant qu'OpenAI pourrait réduire ses coûts en utilisant un modèle de moindre qualité pour les utilisateurs gratuits.
Le post met en évidence la capacité croissante des modèles open-source locaux à rivaliser avec les services propriétaires.