O projeto llama.cpp lançou a versão b9922, que introduz um novo parâmetro `n_keep_tail` na função `split_equal` especificamente para modelos recorrentes.

  • Binários do macOS Apple Silicon (arm64) estão disponíveis.
  • Binários do macOS Intel (x64) são fornecidos.
  • O iOS XCFramework está incluído.
  • Compilações de CPU Ubuntu x64 e arm64 foram lançadas.
  • Variantes Ubuntu Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 e SYCL FP16 estão disponíveis.
  • Binários de CPU Android arm64 são fornecidos.
  • Compilações de CPU Windows x64 e arm64 foram lançadas.
  • Compilações Windows CUDA 12.4, CUDA 13.3, Vulkan, OpenVINO, SYCL e HIP estão disponíveis.
  • Compilações openEuler x86 e aarch64 com suporte para ACL Graph estão incluídas.
  • Um pacote UI independente é fornecido.

Este lançamento atualiza a distribuição binária do llama.cpp em várias plataformas e aceleradores de hardware.