Un utilisateur de Reddit cherche des avis de la communauté sur les applications pratiques des petits modèles de langage locaux, en particulier ceux ayant 7B ou 35B paramètres.
L'auteur du message note que son précédent projet de bot Telegram n'a jamais été déployé en production. Il exprime également sa frustration face aux limitations des modèles cloud premium moins chers comme ChatGPT 4.1mini, les trouvant insuffisants pour des tâches complexes malgré les efforts de compartimentation.
Bien qu'il s'appuie actuellement sur des modèles plus grands comme Claude Sonnet 5 et Opus 4.6 via Claude Code, il se demande si les modèles locaux peuvent efficacement gérer des workflows tels que la génération de code.