Pengguna menjalankan Qwen3.6 35B A3B di VRAM 20GB + RAM 64GB untuk pemrograman lokal

Seorang pengguna Reddit berbagi pengalaman menjalankan model Qwen3.6 35B A3B secara lokal pada laptop yang dilengkapi dengan eGPU 7900XT 20GB dan RAM DDR5 64GB.

• Model ini digunakan untuk tugas pi-coding-agent lokal.
• Model ini memanfaatkan CPU offload (MoE) untuk mendukung kuantisasi tinggi, seperti Q8 pada konteks 100k atau ud-q6kl pada konteks penuh 262k.
• Kecepatan inferensi digambarkan sebagai lebih lambat tetapi dapat digunakan untuk output yang melebihi 20 token.

Pengguna mencari rekomendasi untuk model Mixture of Experts (MoE) lain yang cocok untuk konfigurasi perangkat keras spesifik ini.