O projeto llama.cpp lançou a versão b10035, fornecendo binários para macOS, Linux, Windows, Android e openEuler através de backends de CPU, GPU e hardware especializado.

  • A principal mudança técnica é a extração de elementos Q1_0 via __byte_perm no CUDA (PR #25628).
  • O suporte do KleidiAI no macOS/iOS Apple Silicon foi desativado.
  • As compilações do OpenEuler estão disponíveis para as arquiteturas x86 e aarch64, incluindo suporte ACL Graph para chips 910b.
  • Os binários do Windows agora incluem suporte para CUDA 13.3 junto com o CUDA 12.4 existente, bem como HIP e SYCL.

Este lançamento atualiza a base de código com otimizações específicas de hardware e fornece binários atualizados para vários sistemas operacionais e tipos de aceleradores.