Qwen3.5 122B A10B no formato UD-Q2_K_XL cabe em 64 GB de RAM e melhora o conhecimento interno

Um usuário demonstra que Qwen3.5 122B A10B quantizado com UD-Q2_K_XL pode caber em 64 GB de RAM do sistema, substituindo a melhor opção anterior para essa restrição.

• O modelo alcança respostas de maior qualidade e melhor conhecimento interno em comparação com Qwen3 Next 80B no formato UD-Q4_K_XL.
• A velocidade de geração cai para aproximadamente 2.9 tok/s em CPU DDR4, embora DDR5-5600 possa elevar isso para 6 tok/s.
• A arquitetura usa 10B parâmetros ativos via MTP, enquanto Qwen3 Next 80B usa apenas ~3.5B parâmetros ativos.
• As variantes REAP do modelo foram consideradas inferiores e não resolveram as velocidades lentas de processamento de prompts.

Esta configuração permite que usuários com memória limitada acessem as capacidades de um modelo maior, embora o lento processamento de prompts o torne inadequado para cargas de trabalho agênticas que exigem busca rápida de informações.