O projeto llama.cpp lançou a versão b9913, introduzindo a quantização Q2_0 com uma nova definição de tipo e suporte ao backend de CPU. Esta atualização está disponível em várias plataformas, incluindo macOS, Linux, Windows, Android e openEuler.
- Adicionada a definição do tipo de quantização Q2_0 e a implementação correspondente do backend de CPU.
- Desativado o suporte ao KleidiAI para compilações do Apple Silicon no macOS.
- Fornecidos binários para várias arquiteturas e backends, incluindo CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL e HIP.
- Lançados binários da interface do usuário junto com as atualizações do mecanismo principal.