O projeto llama.cpp lançou a compilação b11081, que inclui várias atualizações na infraestrutura de testes `test-llama-archs`. As principais alterações envolvem tornar o desvio padrão dos dados do tensor configurável, expandir os exemplos de uso e adicionar suporte para padrões regex de arquitetura.

  • A ferramenta `test-llama-archs` agora permite configuração do desvio padrão dos dados do tensor e falha em argumentos desconhecidos com registro de uso.
  • Testes de reversão de estado recorrente relatam NMSE para discrepâncias de logits e usam NMSE para verificações de reversão.
  • Fixtures sintéticas zeram a projeção da pontuação do indexador DSA, e testes inválidos estão desabilitados.
  • O lançamento fornece binários para macOS (Apple Silicon/Intel), iOS, Linux (CPU/Vulkan/CUDA/ROCm/OpenVINO/SYCL), Android, Windows (CPU/OpenCL/CUDA/Vulkan/OpenVINO/SYCL/ROCm) e openEuler.

Esta atualização garante suporte mais amplo ao hardware em várias plataformas, ao mesmo tempo que melhora a confiabilidade e a configurabilidade dos testes internos de arquitetura.