Пользователь Reddit ищет мнение сообщества о практическом применении более мелких локальных языковых моделей, в частности тех, что имеют 7B или 35B параметров.
Автор поста отмечает, что его предыдущий проект Telegram-бота так и не был развернут в продакшене. Он также выражает разочарование ограничениями более дешевых премиальных облачных моделей, таких как ChatGPT 4.1mini, находя их недостаточными для сложных задач, несмотря на усилия по изоляции.
Хотя в настоящее время он полагается на более крупные модели, такие как Claude Sonnet 5 и Opus 4.6 через Claude Code, ему интересно, смогут ли локальные модели эффективно справляться с рабочими процессами, такими как генерация кода.