Qwen telah merilis bobot terkuantisasi FP8 untuk model Qwen3.5-397B-A17B-nya, sebuah model bahasa kausal dengan 397 miliar parameter dan kemampuan visi yang hanya mengaktifkan 17 miliar parameter per langkah inferensi.
Model ini memanfaatkan arsitektur hibrida yang menggabungkan Gated Delta Networks dan Mixture-of-Experts sparse untuk memberikan inferensi ber-throughput tinggi dengan latensi minimal. Model ini mendukung panjang konteks asli sebesar 262.144 token, dapat diperluas hingga 1.010.000, dan mencakup 201 bahasa dan dialek.
Kuantisasi FP8 menggunakan metode halus dengan ukuran blok 128, mempertahankan metrik kinerja yang hampir identik dengan model asli sambil mengurangi persyaratan sumber daya.