O projeto llama.cpp lançou a versão b10435, que aborda um problema de desempenho dentro do mecanismo de modelos Jinja. A principal alteração corrige um bug de complexidade de tempo quadrática na função `gather_string_parts`.

  • Corrige o custo quadrático no `gather_string_parts`
  • Atualiza comentários e remove testes obsoletos
  • Fornece binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm) e openEuler

Este lançamento garante um manuseio de strings mais eficiente na renderização de modelos e oferece binários atualizados em uma ampla gama de arquiteturas de hardware e sistemas operacionais.