llama.cpp b9945 corrige falha na sonda de raciocínio do modelo de chat

O projeto llama.cpp lançou a versão b9945, que inclui uma correção crítica para a sonda de raciocínio do modelo de chat do componente do servidor. A mudança move a sonda para dentro do bloco try/catch de inicialização para prevenir exceções não capturadas.

Anteriormente, modelos com modelos de chat que eram analisados na inicialização, mas falhavam durante a geração do analisador (por exemplo, usando {% call %}), causavam erros std::invalid_argument fora do escopo protegido. Isso resultava em llama-cli abortando via SIGABRT em vez de falhar graciosamente ao carregar. A correção garante que erros no momento da aplicação sejam tratados consistentemente com erros de análise de inicialização.

O lançamento fornece binários para macOS, Linux, Windows, Android e openEuler através de várias arquiteturas incluindo CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL e OpenCL.