O projeto llama.cpp lançou a versão b9966, apresentando uma otimização de desempenho para os padrões de expressão regular tensor-split. A função `llama_meta_device_get_split_state()` anteriormente recompilava 29 objetos `std::regex` em cada chamada, o que dominava a thread de decodificação durante o perfilamento no modo -sm.
- Marcar esses padrões como static const garante que sejam compilados apenas uma vez, melhorando a eficiência sem alterar o comportamento.
- Compilações para macOS Apple Silicon (arm64) estão disponíveis, mas o suporte do KleidiAI está desabilitado.
- Binários Linux são fornecidos para Ubuntu x64 e arm64 (CPU), s390x (CPU), Vulkan, ROCm 7.2, OpenVINO e SYCL FP32/FP16.
- Compilações Android arm64 (CPU) estão incluídas.
- Os lançamentos para Windows cobrem CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
- O suporte do openEuler está parcialmente desabilitado, com compilações x86 e aarch64 disponíveis para hardware específico.
Esta atualização fornece binários otimizados em várias plataformas e aceleradores, abordando gargalos de desempenho na divisão de tensores.