Un utilisateur rapporte avoir réussi à faire fonctionner le modèle Qwen3.6 27B quantifié en ternaire sur deux GPU NVIDIA RTX 3090. Cette configuration atteint un débit de 60 tokens par seconde avec des capacités d'appel d'outils stables.

  • Chaque GPU est alloué à 100k emplacements de cache KV.
  • La consommation totale de VRAM est d'environ 21 Go sur les deux cartes.
  • L'utilisateur note que la qualité de sortie semble bonne, bien qu'aucun test de codage n'ait été effectué.