Проект ggml-org выпустил версию b9878, которая включает исправление устаревших параметров tensor-split, влияющих на черновые модели. Это обновление устраняет проблемы с метаданными, связанные с вниманием GQA в компоненте ggml-backend-meta.
- Исправлены метаданные разделения тензоров для внимания GQA.
- Отменен предыдущий коммит, который внес хак с ресурсами в ggml-backend-meta.
- Предоставлены бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) и платформ openEuler.
Это обновление обеспечивает корректную обработку параметров для черновых моделей при распространении обновленных бинарных файлов по поддерживаемым аппаратным архитектурам.