GLM 5.2 berjalan di MacBook Pro M5 dengan kecepatan 2-2,8 tok/s

Seorang pengguna melaporkan berhasil menjalankan model GLM 5.2 di MacBook Pro M5 dengan RAM 48 GB menggunakan checkpoint pipenetwork/GLM-5.2-MLX-mixed-3_6bit. Kecepatan inferensi mencapai antara 2 hingga 2,8 token per detik, tergantung pada beban sistem.

• Pengguna memanfaatkan Flash MOE untuk mengintegrasikan GLM 5.2 ke dalam aplikasi gaya Claude Desktop kustom.
• Benchmarking dengan pre-prompt 4,4k menghasilkan 501 token keluaran pada kecepatan 2 tok/s selama 6 menit dan 38 detik.
• Sebuah tes tanpa pre-prompt memproses 400 token masukan untuk menghasilkan 337 token keluaran dalam 3 menit dan 17 detik.

Hasil-hasil ini menunjukkan bahwa GLM 5.2 layak untuk eksekusi lokal pada perangkat keras Apple Silicon, menawarkan alternatif fungsional bagi model lain seperti Qwen3.6 27B untuk tugas pemrograman tertentu.