O projeto llama.cpp lançou a versão b9972, que introduz a capacidade de habilitar o streaming para a função `exec_shell_command` dentro do componente do servidor. Esta atualização inclui a implementação e teste da inicialização do stream, juntamente com as atualizações correspondentes da documentação.

  • Servidor: permite streaming para exec_shell_command (PR #25526)
  • macOS/iOS: Binários fornecidos para Apple Silicon (arm64), Intel (x64) e iOS XCFramework; o suporte ao KleidiAI está desabilitado.
  • Linux: Compilações disponíveis para Ubuntu x64, arm64 e s390x nos backends CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 e SYCL FP16.
  • Android: Binário de CPU Arm64 lançado.
  • Windows: Os binários suportam CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP nas arquiteturas x64 e arm64.
  • openEuler: Compilações para x86 e aarch64 com suporte ao ACL Graph estão disponíveis; as compilações padrão estão desabilitadas.
  • UI: Binário da interface do usuário padrão lançado.

Este lançamento fornece binários atualizados para várias plataformas e aceleradores de hardware, enquanto adiciona capacidades de streaming à execução de comandos do shell.