llama.cpp b9910 memperbaiki inkonsistensi antara fitting dan pemuatan model draft

Proyek llama.cpp merilis versi b9910, yang mengatasi inkonsistensi kritis antara fitting model draft dan pemuatan di komponen server. Pembaruan ini mencakup perbaikan untuk masalah throttling callback kemajuan selama pemuatan model draft dan melakukan refactor inisialisasi spekulatif.

• Menyatukan inisialisasi parameter prediksi draft/multi-token, model, dan pemuatan konteks.
• Memindahkan logika inisialisasi spekulatif ke speculative.cpp.
• Mengubah model_dft dan ctx_dft dari server_context_impl untuk menggunakan pointer mentah.
• Menonaktifkan dukungan KleidiAI Apple Silicon macOS dalam rilis ini.
• Menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler.

Rilis ini memastikan operasi server yang stabil saat menggunakan decoding spekulatif dengan memperbaiki mekanisme inisialisasi dan pemuatan yang mendasarinya.