O projeto llama.cpp lançou a versão b9946, introduzindo otimizações significativas para processadores Qualcomm Hexagon junto com novos artefatos de compilação para múltiplas plataformas.

  • As operações unárias Hexagon agora agrupam linhas largas para evitar estouro de VTCM e substituem divisões por fastdiv.
  • A atualização inclui instrumentação de rastreamento e núcleos HVX simplificados para melhorar a geração de código.
  • Binários para macOS Apple Silicon estão disponíveis, embora o suporte KleidiAI permaneça desabilitado.
  • As novas compilações de Linux cobrem alvos CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL.
  • Os lançamentos para Windows agora incluem suporte a CUDA 13 junto com as opções existentes CUDA 12, OpenCL e HIP.

Este lançamento fornece binários atualizados para ambientes de desktop e móvel enquanto melhora o desempenho em hardware baseado em Hexagon.