Seorang pengguna melaporkan berhasil menjalankan model Qwen3.6 27B ternary-quantized pada dua GPU NVIDIA RTX 3090. Konfigurasi ini mencapai throughput 60 token per detik dengan kemampuan pemanggilan alat yang stabil.

  • Setiap GPU dialokasikan 100k slot cache KV.
  • Total konsumsi VRAM adalah sekitar 21GB di kedua kartu.
  • Pengguna mencatat bahwa kualitas output tampak baik, meskipun tidak ada pengujian coding yang dilakukan.