Un utilisateur démontre que Qwen3.5 122B A10B quantifié avec UD-Q2_K_XL peut tenir dans 64 Go de RAM système, remplaçant ainsi la meilleure option précédente pour cette contrainte.

  • Le modèle obtient des réponses de meilleure qualité et de meilleures connaissances internes par rapport à Qwen3 Next 80B en UD-Q4_K_XL.
  • La vitesse de génération chute à environ 2,9 tok/s sur CPU DDR4, bien que la DDR5-5600 pourrait l'élever à 6 tok/s.
  • L'architecture utilise 10B de paramètres actifs via MTP, tandis que Qwen3 Next 80B n'utilise que ~3,5B de paramètres actifs.
  • Les variantes REAP du modèle se sont révélées inférieures et n'ont pas résolu les vitesses lentes de traitement des invites.

Cette configuration permet aux utilisateurs disposant d'une mémoire limitée d'accéder aux capacités d'un modèle plus grand, bien que le traitement lent des invites le rende inadapté aux charges de travail agentic nécessitant une recherche d'informations rapide.