O projeto ggml-org lançou a versão b9878, que inclui uma correção para parâmetros tensor-split desatualizados afetando modelos de rascunho. Esta atualização aborda problemas de metadados especificamente relacionados à atenção GQA dentro do componente ggml-backend-meta.
- Corrigidos os metadados de divisão de tensores para atenção GQA.
- Revertido um commit anterior que introduziu um hack de ativos no ggml-backend-meta.
- Fornecidos binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) e plataformas openEuler.
Este lançamento garante o tratamento correto de parâmetros para modelos de rascunho enquanto distribui binários atualizados através das arquiteturas de hardware suportadas.