O projeto llama.cpp lançou a versão b9992, que inclui uma refatoração da configuração do kernel MMQ. Esta atualização aborda especificamente e corrige a configuração para a arquitetura Blackwell da NVIDIA enquanto remove código legado.

  • Refatoração da configuração do kernel MMQ para melhorar o suporte a CUDA.
  • Correção de problemas de configuração da GPU Blackwell.
  • Remoção de código legado da base de código.

Este lançamento fornece binários atualizados para macOS, Linux, Windows, Android e openEuler em vários backends de hardware, incluindo CPU, Vulkan, ROCm, OpenVINO, SYCL e HIP.