O projeto llama.cpp lançou a compilação b9971, que inclui uma refatoração da funcionalidade `server_stream`. Esta atualização aborda a segurança de threads removendo a chamada `rd.stop()` não segura para threads e movendo `server_res_spipe`. O lançamento também atualiza a documentação do desenvolvedor para refletir a API aprimorada.

  • Refatorado `server_stream` e removido `spipe` de `server_http_res`
  • Removida a chamada `rd.stop()` não segura para threads e movido `server_res_spipe`
  • Atualizados os docs de dev para a API server-stream aprimorada
  • Desabilitadas compilações do macOS Apple Silicon (arm64, KleidiAI habilitado)
  • Fornecidos binários para macOS, Linux, Android, Windows e openEuler através de CPU, GPU e aceleradores de IA

O lançamento garante segurança de threads no componente de streaming do servidor enquanto mantém amplo suporte de plataforma.