llama.cpp b9909 adiciona cronometragens e progresso ao stream da API /responses

O projeto llama.cpp lançou a versão b9909, que introduz informações de tempo e progresso no stream da API /responses. Esta atualização está disponível em várias plataformas, incluindo macOS, Linux, Windows, Android e openEuler.

• A principal mudança funcional é a adição de cronometragens e detalhes de progresso na saída em streaming para o endpoint da API /responses.
• Binários pré-compilados são fornecidos para várias arquiteturas, como Apple Silicon, Intel x64, ARM64 e s390x.
• O suporte a GPU inclui CUDA 12.4 e 13.3, Vulkan, ROCm 7.2, OpenVINO, SYCL e HIP.
• O suporte ao KleidiAI para macOS Apple Silicon está desativado nesta versão.

Esta atualização permite que os usuários monitorem o progresso das respostas da API de forma mais eficaz.