Un usuario de Reddit comparte su experiencia ejecutando el modelo Qwen3.6 35B A3B localmente en un portátil equipado con una eGPU 7900XT de 20GB y 64GB de RAM DDR5.

  • El modelo se utiliza para tareas de pi-coding-agent local.
  • Utiliza la descarga a la CPU (MoE) para ajustarse a altas cuantizaciones, como Q8 con un contexto de 100k o ud-q6kl con el contexto completo de 262k.
  • La velocidad de inferencia se describe como más lenta pero utilizable para salidas que superan los 20 tokens.

El usuario busca recomendaciones para otros modelos Mixture of Experts (MoE) adecuados para esta configuración de hardware específica.