O projeto llama.cpp lançou a compilação b10048, que inclui uma correção para os modelos Phi3, Bert, Plamo2/3 e ChatGLM.

  • Corrige problemas com as arquiteturas Phi3, Bert, Plamo2/3 e ChatGLM.
  • O suporte do KleidiAI para macOS Apple Silicon está desativado nesta compilação.
  • As compilações do openEuler estão disponíveis para as arquiteturas x86 e aarch64, incluindo suporte ao ACL Graph 910b.
  • Os binários do Windows agora incluem suporte ao CUDA 13.3 junto com as opções existentes do CUDA 12.4.
  • Binários pré-compilados são fornecidos para Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android arm64 e macOS Intel.

Esta versão fornece binários atualizados para várias plataformas e aceleradores de hardware para garantir a compatibilidade com as arquiteturas de modelos especificadas.