Un utilisateur de Reddit disposant d'une configuration avec une 4090 et une 5060ti cherche des recommandations pour des modèles de langage large (LLM) open source capables d'exécuter efficacement le framework Hermes Agent en local. L'utilisateur vise à remplacer son workflow Opencode actuel, qui repose sur le modèle payant MiMoV2 pro, afin d'éviter les coûts quotidiens.

  • L'utilisateur dispose d'une configuration matérielle composée de deux GPU (4090 et 5060ti) et de 64 Go de RAM.
  • Il utilisait auparavant Opencode avec MiMoV2 pro mais trouve les 20 $ dépensés quotidiennement insoutenables.
  • Il a entendu des rapports indiquant que l'utilisation de Qwen3.6-27b avec Hermes provoque des boucles infinies.
  • L'objectif est de trouver un modèle open source qui s'exécute à un débit correct en tokens par seconde et qui complète significativement les tâches.