O projeto ggml-org lançou a versão b9878, que inclui uma correção para parâmetros tensor-split desatualizados afetando modelos de rascunho. Esta atualização aborda problemas de metadados especificamente relacionados à atenção GQA dentro do componente ggml-backend-meta.

  • Corrigidos os metadados de divisão de tensores para atenção GQA.
  • Revertido um commit anterior que introduziu um hack de ativos no ggml-backend-meta.
  • Fornecidos binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) e plataformas openEuler.

Este lançamento garante o tratamento correto de parâmetros para modelos de rascunho enquanto distribui binários atualizados através das arquiteturas de hardware suportadas.