O projeto llama.cpp lançou a versão b9986, abordando problemas específicos com modelos de chat. A atualização inclui uma correção para vazamentos de raciocínio que ocorriam com modelos brutos forçados.
- Corrige a inferência da tag de início de raciocínio removendo espaços em branco à direita para evitar a absorção do conteúdo.
- Resolve uma regressão que afeta os modelos Nemotron Nano v2.
- Fornece binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) e openEuler.
Este lançamento garante o manuseio correto de modelos para arquiteturas de modelo específicas e fornece binários atualizados em todas as plataformas suportadas.