Ornith 35B bekerja cukup baik dengan model spekulatif Qwen3.6 35B DFlash

Seorang pengguna melaporkan peningkatan kecepatan generasi token sebesar 30-40% dengan menggabungkan model Ornith-1.0-35B sebagai model draf bersama Qwen3.6-35B-A3B-DFlash menggunakan llama-server.

• Konfigurasi menggunakan Ornith-1.0-35B-GGUF (Q8_0) sebagai model draf spekulatif melalui flag `--spec-type draft-dflash`.
• Pengujian pada konteks 50k yang berisi kode JavaScript dan teks Wikipedia menghasilkan tingkat penerimaan token sebesar 80%.
• Penyiapan ini melibatkan menjalankan llama-server dengan parameter spesifik untuk panjang konteks, suhu, dan langkah draf.

Meskipun kombinasi ini meningkatkan kecepatan generasi, hal ini mengorbankan waktu pemrosesan prompt yang jauh lebih lambat, sehingga bukan solusi universal.