Proyek llama.cpp merilis versi b9986, yang menangani masalah template obrolan tertentu. Pembaruan ini mencakup perbaikan untuk kebocoran penalaran yang terjadi dengan template telanjang yang dibuka secara paksa.

  • Memperbaiki inferensi tag awal penalaran dengan memangkas spasi akhir untuk mencegah konten tertelan.
  • Menyelesaikan regresi yang memengaruhi model Nemotron Nano v2.
  • Menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), dan openEuler.

Rilis ini memastikan penanganan template yang benar untuk arsitektur model tertentu dan menyediakan biner yang diperbarui di seluruh platform yang didukung.