Un usuario informa haber ejecutado con éxito el modelo Qwen3.6 de 27B cuantizado en ternario en dos GPUs NVIDIA RTX 3090. La configuración logra un rendimiento de 60 tokens por segundo con capacidades estables de llamada de herramientas.

  • Cada GPU tiene asignadas 100k ranuras de caché KV.
  • El consumo total de VRAM es de aproximadamente 21GB entre ambas tarjetas.
  • El usuario señala que la calidad de salida parece buena, aunque no se realizaron pruebas de codificación.