llama.cpp menambahkan dukungan model Hy3 melalui PR 25395

Sebuah pull request telah digabungkan ke dalam llama.cpp untuk menambahkan dukungan bagi model Hy3 yang baru dirilis, memungkinkan pengguna menjalankannya menggunakan format GGUF.

• Implementasi tersedia di PR #25395 pada repositori ggml-org/llama.cpp.
• Pengujian awal menunjukkan output yang koheren dari model terkuantisasi Q2_K yang berjalan pada kecepatan sekitar 10-11 token per detik pada RTX 5090 dengan arsitektur Zen 4 dan DDR5 96GB.
• Cekpoint GGUF untuk Hy3 tersedia melalui repositori Hugging Face yang dikelola oleh satgeze.

Pembaruan ini memungkinkan pengguna menjalankan model Hy3 secara lokal menggunakan mesin inferensi llama.cpp.