Um usuário do Reddit está buscando a opinião da comunidade sobre aplicações práticas para modelos de linguagem locais menores, especificamente aqueles com 7B ou 35B parâmetros.
O autor do post observa que seu projeto anterior de bot do Telegram nunca foi implantado em produção. Ele também expressa frustração com as limitações dos modelos premium de nuvem mais baratos como o ChatGPT 4.1mini, achando-os insuficientes para tarefas complexas apesar dos esforços de compartimentalização.
Embora atualmente dependa de modelos maiores como Claude Sonnet 5 e Opus 4.6 via Claude Code, ele está curioso para saber se os modelos locais podem lidar efetivamente com fluxos de trabalho como geração de código.