O projeto llama.cpp lançou a versão b9846, que inclui uma otimização do backend Vulkan para o Asahi Linux. Esta atualização reverte o loop do tamanho do bloco na multiplicação de matrizes para melhorar a compatibilidade e o desempenho no hardware Apple Silicon executando Linux.

  • Vulkan: Reverte o loop BK em matmul para o Asahi Linux por meio de edição direta de SPIR-V.
  • Vulkan: Reverte as alterações anteriores de desdobramento do loop BK e corrige os comentários inline.
  • macOS/iOS: Fornece binários para Apple Silicon (arm64) e Intel (x64), com KleidiAI desabilitado.
  • Linux: Oferece builds para Ubuntu x64, arm64 e s390x nos backends CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL.
  • Windows: Inclui builds de CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP para x64 e arm64.
  • Android: Lança um binário de CPU arm64.

Este lançamento garante suporte estável ao Vulkan no Asahi Linux enquanto fornece binários pré-compilados abrangentes para uma ampla gama de arquiteturas de hardware e bibliotecas de aceleração.