Un usuario demuestra que Qwen3.5 122B A10B cuantizado con UD-Q2_K_XL puede caber en 64 GB de RAM del sistema, reemplazando la mejor opción anterior para esa restricción.

  • El modelo logra respuestas de mayor calidad y mejor conocimiento interno en comparación con Qwen3 Next 80B en UD-Q4_K_XL.
  • La velocidad de generación cae a aproximadamente 2.9 tok/s en CPU DDR4, aunque DDR5-5600 podría elevar esto a 6 tok/s.
  • La arquitectura utiliza 10B parámetros activos mediante MTP, mientras que Qwen3 Next 80B utiliza solo ~3.5B parámetros activos.
  • Se encontró que las variantes REAP del modelo eran inferiores y no resolvían las velocidades lentas de procesamiento de prompts.

Esta configuración permite a los usuarios con memoria limitada acceder a las capacidades de un modelo más grande, aunque el lento procesamiento de prompts lo hace inadecuado para cargas de trabajo agénticas que requieren búsqueda rápida de información.