O projeto llama.cpp lançou a versão b9915, que introduz suporte para operações GGML_OP_SET_ROWS de f16 para f16 na CPU. Esta atualização também inclui verificações de tipo ausentes para esta operação e funde as funções de propagação direta de cálculo f32 e f16 em uma única implementação.
- ggml adiciona suporte a GGML_OP_SET_ROWS f16->f16 para CPU com verificações de tipo adicionais
- ggml_compute_forward_set_rows_f32() e ggml_compute_forward_set_rows_f16() são fundidos em ggml_compute_forward_set_rows_impl()
- Asserções são substituídas por GGML_ASSERT()
- Binários XCFramework para macOS Apple Silicon (arm64), macOS Intel (x64) e iOS estão disponíveis
- Compilações para Linux incluem Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO e variantes SYCL FP32/FP16
- Binários para Android arm64 (CPU) estão disponíveis
- Compilações para Windows abrangem CPU x64 e arm64, OpenCL Adreno, CUDA 12.4 e 13.3, Vulkan, OpenVINO, SYCL e HIP
- openEuler suporta x86 e aarch64 com ACL Graph para chips 910b
Esta versão fornece binários atualizados em várias plataformas e aceleradores de hardware para usuários que necessitam da nova funcionalidade de definição de linhas.