O projeto llama.cpp lançou a versão b9969, abordando um problema crítico de estabilidade no backend Vulkan. A atualização direciona multiplicações de matriz grandes para tiles médios em GPUs Adreno, resolvendo falhas que ocorriam com redes quantizadas q4_0 e tamanhos de prompt mais longos devido à memória compartilhada insuficiente.
- Corrige a quebra do llama-cli para prompts mais longos otimizando o uso de memória compartilhada em matmuls Vulkan.
- Remove código de dispositivo Adreno não utilizado e atualiza a implementação de matmul de pipeline pequeno.
- Desativa o suporte ao KleidiAI para builds do macOS Apple Silicon.
- Fornece binários para Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, HIP, SYCL), macOS, iOS, Android e openEuler.
Este lançamento garante inferência estável em dispositivos Adreno com janelas de contexto maiores e mantém a compatibilidade em uma ampla gama de backends de hardware.